Joana Moll: Až nebudeme mít dost energie, nakrmíme buď lidi, nebo algoritmy

Připravila: Lucie Tomanová • Foto: Jan Slavík, DOX ©

Kdy jste se začala zabývat ve své tvorbě rozhraním a fyzickou strukturou internetu?
Během magisterského studia v oboru Digital Arts jsem se naučila programovat a začala jsem být zvědavá, jak všechny ty virtuální věci fungují fyzicky. Všechno začalo úvahou o tom, v jakém sousedství se nachází moje stránka. Co když je umístěna na stejném serveru jako třeba web Kukluxklanu nebo nějaké jiné zločinecké organizace? To bych přece nechtěla. A tak jsem přes Google Maps hledala fyzickou polohu serverů, na nichž jsou umístěny různé webové stránky, například i ta moje.

Co jste zjistila?
Například to, že všechna data sociálního zabezpečení španělských občanů jsou uložena na serveru jedné soukromé společnosti v USA. Vůbec z toho nemám dobrý pocit. Proč má mít nějaká americká společnost v držení naše osobní data?

Vy sama jste ovšem v roce 2017 koupila data téměř pěti milionů uživatelů seznamek od americké společnosti USDate, která se zabývá obchodováním s profily uživatelů seznamek z celého světa. Jaký to byl pocit? Pocítila jste moc?
Spíš jsem měla pocit velké zodpovědnosti. Vždyť jsem najednou měla k dispozici tak detailní informace o tak ohromném množství lidí: jejich uživatelská jména, e-mailové adresy, informace o národnosti, pohlaví, věku, profesi, zájmech, sexuální orientaci, jejich fotografie i detailní popis jejich fyzických a povahových rysů. Šílené. Koupila jsem nový harddisk a pak jsem rok uvažovala, co s těmi daty vlastně podniknu. Finance na nákup dat (136 eur) mi poskytla organizace Tactical Tech, se kterou spolupracuji.

Víte, odkud všechna ta data pocházejí?
Obchodníci s daty pochopitelně jejich původ tají. Prozrazují jen to, že jsou z USA, protože v Evropě mezitím vstoupil v platnost zákon o GDPR. My ale hledali a našli: použili jsme program Exif, který dokáže vyhledat všechny detaily o daném obrázku, a podle toho jsme zjistili, že data pocházejí z americké seznamky Plenty ofFish. Tato seznamka je ještě větší než například Tinder, je na ní padesát milionů uživatelů.

Všichni nějak tušíme, že naše data nejsou úplně privátní, a při užívání sociálních sítí podepisujeme souhlas s využitím našich dat. Možná si ale plně neuvědomujeme, kdo všechno k nim má nakonec přístup…
Přesně tak. Netušíme, kolik má firma, která danou seznamku nebo sociální síť vlastní, dalších sesterských nebo dceřiných společností. Nebo to, že má stejného vlastníka jako mnoho dalších společností a webů. Vezměte si třeba Match Group, to je největší společnost ve světovém randícím průmyslu – patří jí seznamky jako Tinder, Match, Meetic, Pairs i Plenty of Fish… A majitelem Match Group je IAC, jedna z největších IT firem na světě, která vlastní také Vimeo, TheDailyBeast, DailyBurn, Werkspot, CollegeHumor… a všechny tyto weby mají tím pádem přístup k datům z vašeho profilu. Drsné, že?

To ale ještě zdaleka není vše. Mluvila jste o takzvaných trackerech na webových stránkách, cookies. Při každé naší aktivitě na webu nás sledují další firmy.
Když teď na svém notebooku otevřu v prohlížeči Firefox nástroj Lightbeam, zjistím, kdo o mně při prohlížení webů doluje data právě pomocí trackerů… v tuto chvíli je to asi tři sta různých společností. Až sedm set společností může moji aktivitu nějak sledovat. Mnohé weby také používají software Hotjar pro optimalizaci webů a šmírování uživatelů. Data si pak kupují pojišťovny, farmaceutické firmy, reklamní agentury, jiné seznamky… Takže o data ze svého profilu dejme tomu na Tinderu se dělíte klidně se sedmi stovkami firem. Brutální. Ještě pořád si někdo myslí, že užívání seznamek a sociálních sítí je „zdarma“?

Někdy se kradou i celé profily. Co se pak s nimi děje?
Takový profil pak slouží například jako avatar pro chatbota. Nepoznáte, že nejde o skutečného člověka.

K čemu všemu mohou firmy nebo jednotlivci taková data využít?
K čemukoli od cílené reklamy a marketingu přes ovlivňování lidí na sociálních sítích až po vydírání. Obchodníci s daty nabízejí různé balíčky dat a databází různých věkových a sociálních skupin lidí (například databáze s údaji o voličích) z USA a Evropy. Mají spousty detailních dat z obrovských populací. Společnost Acxiom.com vlastní data od sedmi set milionů uživatelů, Oracle má k dispozici dvě miliardy profilů! Z takového objemu dat už můžete dělat poměrně přesné analýzy a modelovat chování jednotlivců i celých populací.

Dokážou sestavit náš psychologický profil?
Software Crystal Knows dokáže předvídat chování uživatelů s 80% pravděpodobností, analyzuje jednotlivce pro různé společnosti. Oracle může prostřednictvím různých algoritmů předpovídat „budoucnost“. A společnosti nás tlačí k čím dál větší produkci dat, protože pak o nás vědí vše. Mnohé algoritmy dovedou sestavit pětirozměrný model vaší osobnosti a pomocí dalších detailů poznat vaše přání, potřeby a touhy líp, než je znáte vy sami. Takový program si můžete vyzkoušet na výzkumných stránkách applymagicsauce.com, které provozuje univerzita v Cambridge – algoritmus zanalyzuje váš facebookový nebo twitterový účet a sestaví model vaší osobnosti.

Co chcete svým výzkumem a performancemi divákům ukázat?
Chci, aby si lidé uvědomili, co se každý okamžik děje s našimi daty – že je to komplexní systém, jehož strukturu úplně neznáme, a tak si plně neuvědomujeme rizika. A že je zároveň možné tu strukturu poodhalit. Je to jako archeologie. Informace tu jsou, jen je musíte umět správně poskládat, najít souvislosti.

Spolupracujete také s hackery?
Spolupracuji s počítačovými inženýry. Vše, co dělám, je legální. Je proti mému přesvědčení nabourávat se lidem do soukromí, to bych nikdy neudělala. Naopak se snažím vynášet na světlo věci, které jsou běžně před našimi zraky skryté, tedy to, jakým způsobem s našimi daty nakládají různé firmy i vlády jednotlivých zemí. Nemusíte data krást, můžete je legálně koupit ve velkém objemu.

V souvislosti s vývojem internetu jste zmiňovala na workshopu i změny v podobě uživatelského rozhraní.
Původně bylo uživatelské rozhraní koncipováno pro bílého muže – vědce. Postupně se měnilo podle potřeb uživatelů, přizpůsobilo se ženám, jiným společenským vrstvám… ale nehledejte za tím žádný velký humanismus, jde zkrátka o marketing. Weby a sociální sítě jsou koncipovány tak, abychom co nejvíce sdíleli a produkovali data a o to více konzumovali a o to více produkovali další data… Je to takový kognitivní kapitalismus.

Mluvila jste také o fyzické struktuře internetu, která je zároveň strukturou moci – o tom, kudy vedou kabely a kde jsou umístěny první a nejdůležitější servery.
První servery byly v USA, další ve Velké Británii, pak se postupně šířily technologie dál. Lidé, kteří se k technologii dostali jako první, mají samozřejmě větší moc, větší vliv. A dnes se stačí podívat, odkud kam vede nejvíc kabelů. Geografie spojů jednotlivých zemí odpovídá politickému vlivu a kolonialismu. Kabely patří soukromým firmám, ty starší patří především telekomunikačním společnostem. Nyní mají své vlastní kabely i firmy jako Google, Microsoft a Facebook. Své kabely mají i čínské firmy, například ChinaUnicom.

Myslíte, že by se lidé měli více dívat na to, jak vypadá fyzická struktura internetu, aby pochopili, že je to něco hmotného, něco, co potřebuje ke svému životu energii? Elektřinu? Fosilní paliva? Stvořili jsme monstrum?
Možná. Teď už totiž nemáme kontrolu nad tím, kolik energie internet a s ním související technologie spotřebují. Víme přibližně, že 1 MB vyprodukuje 7,072 gramu oxidu uhličitého. Neuvědomujeme si, kolik energie stojí odeslat SMS nebo zprávu na WhatsApp. Proto jsem pro ilustraci vytvořila na svém webu janavirgin.com aplikaci, která vám ukáže, kolik emisí stránka produkuje v daném okamžiku a kolik stromů potřebujeme k pohlcení vytvořených emisí. Vzhledem k tomu, že nejvíce energie spotřebovávají počítače, tablety a smartphony a že v roce 2020 bude připojeno k internetu odhadem třikrát více zařízení než nyní, vzroste spotřeba opravdu výrazně.

Druhou největší spotřebu energie pak mají datová centra, i kvůli nutnosti chlazení. Proto se datová centra umisťují do chladnějších oblastí, například do Skandinávie a na Island. Microsoft přišel také s nápadem chladit datová centra v oceánech. Tím ale vyprodukované teplo nezmizí, jen se ohřeje oceán.

Jak vnímáte budoucnost? Máte spíš optimistickou, nebo dystopickou představu?
Mám obavy hlavně z klimatické změny. Že nebudeme mít dost energie na to, abychom dál krmili všechny ty algoritmy. Že buď nakrmíme lidi, nebo umělou inteligenci. Optimisté říkají, že máme dvanáct let, pesimisté že sedm až osm let, a pak se svět radikálně změní. Technologie nebudou rozhodně pro všechny. Možná k nim budou mít přístup bohatí, privilegované vrstvy. Už nebude internet, jak ho známe dnes. Je to určitý ekosystém, který bez všech těch uživatelů a bez vší dnešní plurality zmizí.

Pokud nám vadí Big Brother a produkce nesmyslných objemů dat, nebude to nakonec dobře?
Jak se to vezme. Nevíme, co přijde, protože situace ve společnosti bude vlivem klimatických změn velmi nestabilní, většina lidí se bude muset starat hlavně o vlastní přežití. Je možné, že sklouzneme k nějaké formě policejního státu, kde běžný člověk přístup k technologiím mít nebude, ale armáda, policie a různé společenské elity, které mají kontrolu nad zdroji energie, budou moci používat technologie dál.

Pak se může stát umělá inteligence nástrojem ke snadnému ovládání společnosti. Představuji si dystopickou společnost, ve které jsou lidé rozděleni do společenských tříd či kast a podle příslušnosti k dané třídě mají k dispozici určitý příděl energie a potravy a případně i přístup k určitým technologiím.

Co se stane se všemi těmi daty, která o nás různé firmy nashromáždily, když už nám nebudou moci nic prodat ani dál stimulovat naši spotřebu? Když už s nimi nebudou moci obchodovat jako dříve? Použijí je vlády a jiné organizace k lepší kontrole nad svými občany?
Je to pravděpodobné. Někde jsem četla článek, jehož autoři tvrdili, že jestli má lidstvo přežít změnu klimatu, musí počet lidí na Zemi klesnout o třetinu. Co když se nějaká skupina lidí rozhodne využít umělou inteligenci k mapování populace prostřednictvím těchto dat? Co když pak bude někdo na základě těchto dat určovat, kdo má přežít, a kdo ne?

I takové nápady na sociální inženýrství už tu v minulosti byly, dokonce v 80. letech. Byly míněny zcela vážně, na manuálu, který se zabýval možnou redukcí populace, pracovali přední vědci. Jedním z témat byla kontrola porodnosti, v zásadě povolenky k rozmnožování a případná plošná sterilizace populací tak, aby to neublížilo zvířatům. Docela drsné.
Existují jistě různé způsoby. Redukce populace je pro vládnoucí elity nejsnadnější nástroj, jak si zachovat vlastní životní úroveň a udržet stávající podmínky bez nějakých zásadních změn, takže mě to děsí. Ostatně zeptejte se kohokoli, jestli by to nebral: zredukujeme lidstvo o třetinu, ale vy, vaše rodina a vaši přátelé můžete žít jako dosud. Vás se to netýká, zmizí ti druzí. Nebude žádná změna klimatu, zlepší se životní prostředí. No nebrali byste to? Myslím, že v hloubi duše by to bral každý.

Myslíte, že armády světových velmocí a třeba i NASA už jsou s výzkumem umělé inteligence hodně daleko?
Určitě, není to jen Čína, která má už velmi pokročilé algoritmy. Čína má oproti USA jen tu výhodu, že může posbírat data od ohromného množství lidí.

Co chcete sdělit lidem prostřednictvím svých přednášek a workshopů?
Chci, aby tohle věděli. Aby byli připraveni. Abychom byli schopni přežít v nových podmínkách a přitom si uchovat co nejvíce užitečných technologií. Nemám ale dojem, že by naše vlády v tomto směru něco zásadního podnikaly. Žijeme, jako by se nic nedělo.

Joana Moll vystupovala a vystavovala v řadě muzeí, uměleckých center, univerzit a na mnoha festivalech po celém světě a její práce se objevila v mnoha publikacích. Kromě toho je spoluzakladatelkou Skupiny pro kritický výzkum politiky rozhraní (Critical Interface PoliticsResearch Group), která funguje v rámci barcelonského centra HANGAR, a Institutu pro poznání populárních automatismů (The Institute for the Advancement of Popular Automatisms). V současné době je hostující lektorkou na univerzitě v Postupimi a na škole Escolad’Art i Superior de Vic v Barceloně.