Aféra Cambridge Analytica zahýbala médii v roce 2018, když to celé prasklo. Jakmile se ale přehnala hlavní vlna obvinění, soudů, vypovídání v americkém senátu a tak dále, už po Cambridge Analytica neštěkne ani pes. Podle mě by se o ní ale mělo vědět a mluvit mnohem víc – a hlavně vám rozhodně doporučuju přečíst si knihu Mindf*ck: Cambridge Analytica And The Plot To Break America. Proč? O tom bude přesně tenhle článek.
Občas se na Cambridge Analytica zeptám účastníků svých školeních sociálních sítí, nebo svých studentů.
„Slyšeli jste někdy o aféře Cambridge Analytica?“
Přikyvování.
„Dokážete mi říct, o co tam šlo?“
Nejisté pohledy, případně váhavé zavrtění hlavou.
Případně někdo alespoň tuší, že šlo „o nějaký ten únik dat, ne?“
Jo. Byla jsem na tom dost podobně. Taky jsem věděla, že šlo o nějaký únik dat – ale o moje data nešlo, a slýchat o únicích dat z různých webů jsme celkem zvyklí.
Jenomže Cambridge Analytica únikem dat teprve začíná. Mnohem důležitější je, co se s těmi daty dělo potom, k čemu je CA využila. A to mi pořádně došlo vlastně až díky přednášce Christophera Wylieho na Marketing Festivalu 2019 (Jindrovi Fáborskému a týmu kolem Marketing Festivalu patří obrovský dík za to, že Chrise pozvali).
Christopher Wylie je whistleblower, který pro Cambridge Analytica pracoval a poté celou aféru odstartoval, když s ní šel do médií.
Vloni mu také na téma Cambridge Analytica vyšla kniha Mindf*ck: Cambridge Analytica And The Plot To Break America, kterou jsem si přečetla a kterou doporučuji všem, koho sociální sítě živí (jako mě), ale i těm, kdo sociální sítě jen používají a nebo mají děti, které sociální sítě používají.
Podle mě se totiž sice teď o Cambridge Analytica už nemluví, ale za pár desítek let (tedy pokud nás nevyvraždí nějaký virus, neshoří nám země pod zadkem nebo se nepozabíjíme sami v další světové válce, jasně…) se o ní bude učit jako o jednom ze zásadních okamžiků novodobé historie. A studenti, kteří o tom budou číst nebo slýchat na přednáškách, si budou dost možná říkat: „Ale proč s tím tehdy nikdo nic neudělal?! Proč tomu nikdo nezabránil, proč to nezačali nějak regulovat nebo tak něco?!“
Christopherův Mindf*ck
Radši na začátek zdůrazním, že Christopher Wylie je whistleblower. Není to spisovatel, takže k jeho stylu psaní můžete mít spoustu výhrad.
Můžete také říct, že je jeho kniha moc sebestředná, že ze sebe dělá moc velkého svatouška a přitom se na Cambridge Analytica podílel, a tak dál.
To jsou všechno validní poznámky. Já tu ale nehodlám řešit samotnou osobnost Chrise Wylieho, na něj si udělejte názor každý sám. Co je podle mě důležitější je, že v téhle knize dostanete chronologický popis celého vývoje Cambridge Analytica od samého začátku až víceméně do současného okamžiku.
A rozhodně se nebojte, že byste nechápali, která bije – ač se Chrisovi a jeho stylu dá určitě leccos vytknout, tak kniha je napsaná čtivě a všechny techničtější záležitosti ohledně dat a algoritmů jsou tam vysvětleny velmi srozumitelně.
Psychologická zbraň hromadného ničení
Cambridge Analytica tedy neznamená jen únik dat z Facebooku. Únikem dat z Facebooku to totiž teprve začalo. S pomocí dat více než 86 milionů Facebookových uživatelů Cambridge Analytica vytvořila psychologickou zbraň hromadného ničení, která byla využita ve Velké Británii při referendu o Brexitu, a poté v prezidentských volbách v USA.
„America is now living in the aftermath of the first scaled deployment of a psychological weapon of mass destruction.“
(str. 17)
Díky datům, která CA získala pomocí Facebook aplikace s dotazníkem, dokázala Cambridge Analytica vytipovat lidi a skupiny lidí, které jsou nejvíce náchylné uvěřit dezinformacím, fake news a manipulacím. Těm pak cíleně doručovala propagandistický obsah, díky němuž daní voliči změnili názor a přiklonili se tak ke straně, za kterou CA kopala.
„Cambridge Analytica was a company that took large amounts of data and used it to design and deliver targeted content capable of moving public opinion at scale.“
(str. 95)
Pojďte, pane, budeme si hrát… s daty uživatelů
Jak CA získala všechna ta data, se kterými pak pracovala? Až nebezpečně jednoduše. Přes systém Amazonu MTurk zveřejnili dotazníkovou aplikaci, která se přihlašovala k Facebooku odpovídajícího uživatele. Za vyplnění dotazníku byli uživatelé placeni, co už ale netušili bylo, že si appka stáhla všechna jejich Facebooková data – a také všechna data jejich přátel. Fotky, lajky, videa, prý v některých případech i soukromé zprávy poslané přes Messenger.
Tuhle chytrou appku CA spustila v roce 2014 a během 2 měsíců získala data 87 milionů uživatelů, převážně z Ameriky (str. 112). Tím ale už vyčerpali možnosti sítě MTurk a potřebovali tedy další zdroje, jak data uživatelů získat. A tak do boje zapojili také další aplikace – třeba rozšíření do prohlížečů:
„It was no longer simply Facebook apps that were being used. Cambridge Analytica began testing innocuous-looking browser extensions, such as calculators and calendars, that pulled the user’s Facebook session cookies, which in turn allowed the company to log in to Facebook as the target user to harvest their data and that of their friends. These extensions were all submitted–and approved–in the independent review processes of several popular Web browsers.“
(str. 113–114)
Takže kdyby nestačilo, že si z Facebooku kvůli jeho vlastní laxnosti stáhli obrovské množství dat, tak další data ještě sbírali pomocí kradených přístupů. Pěkné, ne? (Kdo z vás právě teď odinstalovává všechna rozšíření do prohlížeče, která nepoužíváte?)
Díky datům milionů šeptali do ucha tisícům
Dobrá, máte data desítek (možná i stovek) milionů uživatelů. Co s nimi dál?
V kapitole Trojan Horses se Chris Wylie zamýšlí nad tím, že naše Facebookové profily o nás dokážou říct neskutečně mnoho. Vzhledem k tomu, že Facebook měří veškerý náš pohyb na jeho síti, každé kliknutí, každý lajk, který jsme dali, dá se tam velmi přesně vyhodnotit prakticky cokoliv. A pro výzkumníky je tohle navíc zlatý důl, protože naše chování při používání Facebooku je neovlivněné ničím, jen námi samými. Oproti výzkumům v laboratořích nebo pomocí dotazování lidí jsme na Facebooku ve svém přirozeném prostředí a ani si neuvědomujeme, že nás někdo může sledovat, že za sebou necháváme nějakou stopu.
V roce 2015 zkoumali Kosinski, Stillwell a Youyou, že s pomocí lajků na Facebooku dokáže počítačový model velmi přesně předvídat lidské chování. Stačí 300 lajků a počítač vás zná lépe než váš/vaše manžel/ka.
„With ten likes, the model predicted a person’s behavior more accurately than one of their co-workers. With 150 likes, better than a family member. And with 300 likes, the model knew the person better than their own spouse.“
(str. 103)
S pomocí datové analýzy tedy Cambridge Analytica dokázala odhalit, ke komu mluvit a jak, aby měla nejvyšší šanci na úspěch. Proto začala vyvíjet falešné facebookové stránky a skupiny, falešné webové stránky, které se tvářily jako reálné zpravodajství, a další podobné platformy. Snažila se v nich sdružovat uživatele, u nichž podle analýzy dat zjistila nějaký skrývaný strach nebo zlobu. Vytvářela tím uměle bubliny, sdružovala pomocí sociální sítě lidi tak, aby měli dojem, že jejich názor není ojedinělý, ale je naopak názorem většiny.
Algoritmy Facebooku v tomhle směru půlku námahy odpracovaly za Cambridge Analytica, protože jakmile se uživatel do jedné z takovýchto falešných skupin přidal, Facebook skupinu ukázal dalším podobně smýšlejícím lidem, protože by je přece mohla zajímat.
Cambridge Analytica ale nepracovala jen online, měla také své výzkumníky v ulicích, kteří dělali dotazníková šetření a obcházeli voliče v reálném světě. Díky tomu Cambridge Analytica přišla na neskutečně zajímavá zjištění, kterých je plná kapitola The Dark Triad v knize.
Zjistili například, že naštvaní lidé nepotřebují racionální vysvětlení a také podceňují nebezpečí negativních důsledků – naštvaný člověk je schopný negativní výsledky přijmout, pokud to bude zároveň znamenat jakýsi trest pro jím nenáviděnou skupinu:
„What CA observed was that when respondents were angry, their need for complete and rational explanations was also significantly reduced. In particular, anger put people in a frame of mind in which they were more indiscriminately punitive, particularly to out-groups. They would also underestimate the risk of negative outcomes. This led CA to discover that even if a hypothetical trade war with China or Mexico meant the loss of American jobs and profits, people primed with anger would tolerate that domestic economic damage if it meant they could use a trade war to punish immigrant groups and urban liberals.“
(str. 129)
Přišlo vám, že nárůst ultrapravice v USA přišel jako blesk z čistého nebe? Že ještě před pár lety muselo být všechno genderově korektní a rasismus byl všeobecně odsuzován, a nechápali jste, odkud se najednou vzala ta touha vykázat z Ameriky všechny přistěhovalce, postavit zeď na hranici s Mexikem, a tak dál? No, už se nedivte. Svoje v tom hrála právě Cambridge Analytica a její data.
Referendum vypadalo jako dobrý nápad…
Brexit je pro nás Evropany momentálně hodně aktuální téma. A v knize Mindf*ck je mu věnováno taky docela dost prostoru.
Cambridge Analytica pracovala pro hlavní stranu, která byla pro vystoupení – Leave.EU. Pro ně dělali to samé, co jsem popsala v předchozí části.
Tvořili hyperlokálně cílené falešné Facebook skupiny, do nichž pomocí reklamních kampaní lákali uživatele z daného hrabství v Británii.
Uživatelům, kteří se do skupin přidali, psali soukromé zprávy z falešných profilů a posílali jim odkazy na „zajímavé články“.
A když členů ve skupině už bylo dostatek, svolali i místní sraz. Zpravidla v nějaké malé vesnické kavárně, aby lidé měli opět dojem, že stejně smýšlejících obyvatel je vlastně většina, a že přece pro vystoupení z EU budou hlasovat úplně všichni.
O čem se ale tolik nemluvilo je, že s Cambridge Analytica spolupracovala i druhá strana podporující vystoupení – Vote Leave. Ta totiž spolupracovala s kanadskou pobočkou CA jménem AIQ, aktivity AIQ ale byly úplně stejné jako CA (a postavené na úplně stejných datech, jak dle Wylieho dokládají licenční smlouvy).
Jak ukázala čísla od Dominika Cummingse, vedoucího Vote Leave, Facebook kampaně od AIQ bombardovaly uživatele sdělením tak často, že si zkrátka ani nemohli myslet, že by existovala jiná možnost než hlasovat pro vystoupení z EU. Hlavní prounijní strana Remain totiž vůbec netušila, proti jak silnému oponentovi stojí.
„…Vote Leave and AIQ had together disseminated more than a hundred different ads with 1,433 different messages to their target voters in the weeks leading up to the referendum. Cummings later revealed that these ads were viewed more than 169 million times, but only targeted at a narrow segment of a few million voters, which resulted in their newsfeeds being dominated by Vote Leave messaging.
The people of the United Kingdom were the targets of a scaled information operation deployed by AIQ, and the problem with Remain was that they completely failed to understand what they were up against.“
(str. 171–172)
Fascinující jsou také další zjištění Cambridge Analytica ohledně uvažování Britů. Zafungovalo tu opět ono ovlivnění strachem, které jsem popisovala výše (a to, že i naštvaní Britové volili tak, aby jejich volba byl trest pro městské liberály nebo imigranty), CA ale zjistila, že obyvatelé britského venkova mají dost jiný náhled na ekonomiku, než si myslela strana Remain. Jedním z hlavních argumentů, proč zůstávat v EU, bylo právě ekonomické hledisko a dopad vystoupení na ekonomiku Velké Británie. Jenže vesničani měli dojem, že jich se ekonomika netýká, ekonomiku přece dělají ti prachatí bankéři v Londýně.
„Remain’s focus on the economy also neglected to stop and ask people what they thought the economy was in the first place. Cambridge Analytica identified that many people in non-urban regions or in lower socioeconomic strata often externalized the notion of „the economy“ to something that only the wealthy and metropolitan participated in. „The economy“ was not their job in a local store; it was something the bankers did.“
(str. 172)
Už tak z toho jde hlava kolem. Teď ještě do toho mixu přidejte různou další špínu, jako například že Vote Leave nelegálně dvojnásobně překročila rozpočet na kampaně a podobně…
Konec dobrý, všechno dobré… Teda skoro.
Naštěstí to všechno prasklo, že jo.
Chris Wylie s tímhle vším šel do médií (i přes výhrůžné dopisy od Cambridge Analytica i od Facebooku).
Vyšlo najevo, že minimálně 30 zaměstnanců Facebooku o Cambridge Analytica a jejích aktivitách vědělo. I přesto s tím ale Facebook nic nedělal.
Alexander Nix, CEO Cambridge Analytica, při slyšení v britském parlamentu prohlásil, že CA nepoužívala žádná data Facebooku. Poté, co celá aféra v médiích vybouchla, odstoupil ze své funkce CEO. Cambridge Analytica v květnu 2018 vyhlásila ukončení své činnosti a podala žádost o insolvenci, stejně jako její mateřská společnost SCL Group.
Facebook dostal pokutu 5 miliard USD.
Británie vystoupila z EU, a ohledně toho, že Vote Leave i Leave.EU pracovaly s CA, a Vote Leave navíc platilo CA nelegálně, se nic nestalo. Kromě toho vyšlo na povrch, že Leave.EU během kampaně velmi intenzivně komunikovalo s ruskou ambasádou v Londýně.
Chrise Wylieho se pokoušely různé strany zdiskreditovat, kolovaly zvěsti, že patří do konspirací placených Georgem Sorosem. Pak ale zjistil, že tyhle fámy o něm šíří… agentura najatá Facebookem.
„At the time these narratives seemed to come out of nowhere. Later, it emerged that Facebook, in a panic about its PR crisis, had hired the secret communications firm Definers Public Affairs, which subsequently leaked out fake narratives filled with anti-Semitic tropes about its critics being part of a George Soros-funded conspiracy.“
(str. 229)
Ve výsledku se tedy vlastně nic moc nestalo.
Facebook zaplatil pokutu, jejíž výše je při jeho obratech spíš jen plácnutí do vody. Hnutí #deleteFacebook bylo chvíli docela aktivní, ale pak také vyšumělo do ztracena. Facebook v návaznosti na skandál CA uvedl několik nových funkcí, kde uživatelům umožňuje „lépe kontrolovat své soukromí“.
Cambridge Analytica ukončila svou činnost – aspoň pod původním názvem. Chris na přednášce na Marketing Festivalu podotkl, že ví o tom, že se hlavní hráči z CA pouze přesunuli do nějaké východoevropské země a pod jiným názvem tam v činnosti pokračují.
Pokud vím, tak nikdo nešel do vězení
Na závěr knihy Chris Wylie popisuje, co by se dalo dělat, jak by se tahle situace dala řešit – pomocí regulací, etických kodexů a podobně. Jeho frustrace je v textu poměrně hmatatelná:
„I used to think that there was someone waiting with a plan who could solve a problem like Cambridge Analytica. I was wrong. Our system is broken, our laws don’t work, our regulators are weak, our governments don’t understand what’s happening, and our technology is usurping our democracy.“
(str. 248)
Karma je zdarma. Sociální sítě ne.
Co si z toho tedy vzít?
Zaprvé, z mého pohledu je to opravdu velký průšvih, kdy se podařilo pomocí fake news, propagandy a obrovské manipulace změnit názory celých národů.
Ukazuje to, že technologičtí giganti nejsou žádní svatoušci (a záměrně zde píšu giganti a ne jen Facebook, protože si nemyslím, že jen Facebook by byl ultimátní zlo, ale všechny velké firmy, které o nás mají obrovské množství dat, jsou potenciálně velmi nebezpečné). Protože jde jen o firmy, které prostě a jednoduše chtějí vydělat. A v poslední době už nevydělávají tolik na reklamě, jak jsme si mysleli doteď, ale hlavně na našich datech.
Už na straně 100 knihy, v okamžiku, kdy CA teprve vznikala, se mluví o podobně fungující aplikaci výzkumníků Stillwella a Kosinskiho, na jejichž modelu vlastně celý nápad v CA vznikl. Chris se jich prý zeptal, jak získali všechna data z Facebooku, a dozvěděl se, že jim je Facebook vlastně rád dal – protože se díky jejich výzkumu dozvěděl, jak své uživatele lépe monetizovat. Zároveň mu nepřišlo, že by měl od uživatelů ke sběru dat chtít nějaké svolení, vždyť přece používají jeho platformu, to jako svolení stačí:
„They told me essentially, that Facebook simply let them take it, through the apps the professors had created. Facebook wants people to do research on its platform. The more it learns about its users, the more it can monetize them. […] When a person used their app, Stillwell and Kosinski could receive not only that person’s Facebook data, but the data of all of their friends as well. Facebook didn’t require express consent for apps to collect data from an app user’s friends, as it viewed being a user of Facebook as enough consent to take their data – even if the friends had no idea the app was harvesting their private data.“
(str. 100)
O pár stránek dřív pak Chris kousavě komentuje, že zatímco psychologické profilování zajímalo DARPA (agenturu amerického ministerstva obrany) kvůli vojenským operacím, Facebook se o totéž zajímal, aby si zvýšil výdělky z reklamy.
Musíme si uvědomit, že sociální sítě nejsou zdarma. Za používání sociálních sítí totiž platíme, a to nemálo – svými daty.
„The data has become more and more valuable, with Facebook making on average $30 from each of its 170 million American users. At the same time, we have fallen for the idea that these services are „free“. In reality, we pay with our data into a business model of extracting human attention.“
(str. 15)
„On social media, a platform makes money from the number of clicks a user performs. This is why there are infinite scrolls on newsfeeds – there is very little difference between a user endlessly swiping for more content and a gambler pulling the slot machine lever over and over.“
(str. 121)
Také si musíme uvědomit, že nemůžeme věřit všemu, co na internetu uvidíme. A tohle se bude ještě zhoršovat. Přidejme do mixu rozšiřující se deepfakes (tzn. počítačem vytvářená videa s lidmi, nejčastěji celebritami či politiky, která jsou k nerozeznání od pravých), a brzy už doopravdy nebudeme moci věřit vůbec ničemu, co online uvidíme.
Proto myslím, že je důležité o tom mluvit, varovat a vzdělávat lidi, aby si víc uvědomovali rizika nejen sociálních sítí, ale celého internetu.
Pokud vás tedy tohle téma zaujalo, určitě doporučuju si přečíst knihu Mindf*ck: Cambridge Analytica And The Plot To Break America od Chrise Wylieho (k sehnání například na Bookdepository s bezplatným poštovným po celém světě #notsponsored), a případně budu ráda, pokud budete tenhle článek sdílet dalším lidem, kteří by o tom měli vědět. Protože upřímně řečeno, sama si nejsem jistá, zda bych téhle manipulaci, kdy lidem psaly falešné profily atd., nesedla na lep taky. A to jsem docela dost technicky zdatný člověk. Když se nad těmihle záležitostmi zamyslíte z pohledu svých rodičů nebo prarodičů a v kontextu České republiky a naší místní politiky… začne vás docela mrazit z toho, co všechno se může snadno stát.
Další zdroje:
- Brexit: The Uncivil War – film od HBO z roku 2019 s Benedictem Cumberbatchem (ČSFD, IMDB, trailer)
- The Great Hack – dokument od Netflixu (ČSFD, IMDB, trailer)
- Cambridge Analytica whistleblower: ‚We spent $1m harvesting millions of Facebook profiles‘ – rozhovor s Christopherem Wyliem na YouTube Guardianu
- Targeted: The Cambridge Analytica Whistleblower’s Inside Story of How Big Data, Trump, and Facebook Broke Democracy and How It Can Happen Again – kniha Brittany Kaiser, další zaměstnankyně Cambridge Analytica
Napsat komentář