Facebook si na statisících nic netušících uživatelů vyzkoušel, jak lze...

Facebook si na statisících nic netušících uživatelů vyzkoušel, jak lze manipulovat jejich náladou. | foto: Pavel Kasík, Technet.cz

Facebook manipuloval vzkazy kvůli tajné studii. A diví se, že to vadí

  • 79
Téměř 700 tisíc uživatelů Facebooku se v lednu 2012 nevědomky stalo pokusnými králíky. Experti na statistiku uměle zvýšili obsah „veselých“, nebo „smutných“ zpráv od jejich přátel. Pak měřili, co to s nimi udělá.

„Ve světle toho, co ukázal Snowden, a tomu ‚kubánskému Twitteru‘, je studie o přenosu špatné nálady, kterou provedl Facebook, děsivá,“ myslí si odborník na technologické inovace v politice Clay Johnson. „Facebok vás zahrnul do svého experimentu k publikaci bez vašeho svolení.“ Clay není jediný, kdo si na přístup Facebooku stěžuje (zdokumentovaný v sociologické studii publikované v prestižním časopise PNAS. Poté, co o článku informovala média, se na hlavu Facebooku sesypaly stížnosti.

28.června 2014 v 15:43, příspěvek archivován: 01.července 2014 v 16:16

In the wake of both the Snowden stuff and the Cuba twitter stuff, the Facebook "transmission of anger" experiment is terrifying.

Výzkumník Sebastian Deterding upozorňuje na řadu potenciálních problémů. Studie nebyla schválena univerzitní etickou radou, ta totiž schválila jen analýzu nasbíraných dat. Samotný sběr dat povolil Facebook, jehož zaměstnanec je hlavním autorem studie. Facebook tvrdí, že jejich studie byla „konzistentní s podmínkami, které uživatelé odsouhlasili“, jenže odkliknutí mnohastránkových podmínek lze podle Jamese Grimmelmanna, profesora práv z univerzity v Marylandu, těžko považovat za souhlas.

Navíc se ukazuje, že Facebook získal i tento velmi pofidérní „souhlas uživatelů“ až poté, co byla studie provedena. Klauzule o „výzkumu na uživatelích“ byla do podmínek použití zahrnuta až čtyři měsíce po experimentu.

Experimenty a problémy s etikou

Psychologické experimenty mohou být nebezpečné.

Podívejte se na experimenty druhé poloviny 20. století, které rovněž neprošly schvalováním etické komise.

Hlavní otázkou tedy nakonec není, zda studie přináší, nebo nepřináší nové poznatky. Spíše podtrhla diametrálně odlišné pohledy na etiku výzkumu velkých dat. Podle společnosti Facebook není problém dělat pokusy na lidech. Je vhodné dodat, že výzkumníci v práci uvádějí, že manipulace zobrazených příspěvků se netýkala soukromých zpráv ani přímého zobrazení profilů. Ale podle uznávaného pravidla by účastníci psychologického experimentu měli svůj souhlas vyjádřit jednoznačně a poté, co byli informování o základech studie, obeznámeni s riziky a dostali možnost z experimentu kdykoli odejít. Tak tomu během této kontroverzní studie evidentně nebylo. Co přesně vědci zkoumali, jak získali 689 tisíc testovaných subjektů a co zjistili?

Špatná nálada je nakažlivá, dobrá také. Tak trochu

Výzkumníci nastavili software tak, aby měnil výběr zpráv, které se uživateli zobrazí (anglickou terminologií Facebooku News feed). Vybraným uživatelům tak zobrazoval méně zpráv s pozitivními, či negativními slovy. Systém je neskrýval úplně, pokud si uživatelé klikli pro zobrazení všech zpráv. Jen se řízeně změnily parametry filtru, který zprávy uživatelů Facebooku probírá i normálně.

Při pokusu se Facebooku povedlo u experimentálního vzorku významně snížit podíl pozitivních slov.

Cílem bylo zjistit, zda náladu majitelů účtů nějak ovlivní emoce, kterým jsou vystaveni na Facebooku. Zda se tedy dokážou „nakazit“ dobrou, nebo špatnou náladou i takto velmi zprostředkovaně po sociálních sítích. Nedá se říci, že by tato otázka představovala pro současnou psychologii nějak zajímavou otázku, ale také to není vůbec problém vědecky nezajímavý. Zvlášť když by bylo možné přesně určit jeho sílu na velkém vzorku lidí, což právě Facebook dokáže tak snadno, že většina experimentálních psychologů musí jen závidět.

Závěry studie nejsou nijak třeskutě překvapivé: filtrování zpráv náladu lidí v pokusu opravdu ovlivnilo. Silnější efekt byl u negativních emocí, ale v obou případech byl dost nevýrazný. To je samozřejmě logické, řada věcí ovlivňuje náladu bezprostředněji a výrazněji. Změna emocionálního náboje zobrazovaných zpráv ovlivnila asi jeden z tisícovky příspěvků lidí, na kterých vědci pokus prováděli.

Proč byl experiment manipulující náladu kontroverzní?

  1. Uživatelé Facebooku nejsou rádi, když jimi někdo manipuluje.
  2. Facebook je tak jako tak mírně depresivní (jak ukazuje jiná studie), takže lze říci, že experiment „ohrozil uživatele“.
  3. Zahrávat si s emocemi uživatelů jde proti „misi“ Facebooku.
  4. News Feed, kterým Facebook v tomto případě manipuloval, je velmi mocným nástrojem pro šíření zpráv, a jeho „ladění“ je bedlivě sledováno.

„Pokud vám takové experimenty vadí, je jen jediné východisko,“ myslí si redaktor Forbesu Dan Diamond. „Odejděte z Facebooku. Nečekejte, že přestane testovat svoji stránku a různé způsoby, jak ovlivnit její uživatele.“

Datový tým Facebooku dělá psychologické pokusy ve velkém

To, že Facebook využívá data o uživatelích nejen k přesnějšímu cílení reklam, ale i k psychologickým výzkumům, není nová zpráva. Analýza velkého množství dat (tzv. big data) je v módě a Facebook ji rozhodně nebere na lehkou váhu. Skupina 12 vědců, interně přezdívaná Data Science Team, má k dispozici každou akci, kterou kdy kterýkoliv z miliardy uživatelů provedl. „Je to poprvé v historii, kdy můžeme provádět takto kvalitní výzkum lidského chování takového ohromného rozsahu,“ uvedl Cameron Marlow, který skupinu výzkumníků vede.

Předpovídání budoucnosti podle lajků

Zkoumat osobní, nebo dokonce intimní chování na vzorku více než miliardy lidí je něco, co by si psychologové ještě před deseti lety sotva dokázali představit. Co zatím vědci v datech našli? Umí třeba spočítat, jak se v které zemi vyvíjí „index štěstí obyvatel“, odkud kam se lidé stěhují nebo jaké písničky lidé nejčastěji poslouchají těsně předtím, než s někým začnou chodit.

V září 2013 spustil Facebook podle vlastních slov novou éru analýzy dat o uživatelích. Pomocí metody „deep learning“ (hloubkové učení) chtějí experti ve Facebooku odhalit i nevyslovené emoce uživatelů a dokonce předpovídat budoucí přání a zájmy. I díky tomu pak dokážou lépe odhadnout, které z nepřeberného množství zpráv vám ukážou, až se cestou z práce podíváte v tramvaji na Facebook: „Víme, že máme jen pět minut na to, abychom vás potěšili,“ připouští technologický šéf Facebooku Mike Schroepfer. Proto je podle něj důležité, aby se k vám na malou mobilní obrazovku dostalo přesně to, co se vám bude líbit.

Příliš jednoduché a příliš děsivé experimenty

Provádět pokusy na vzorcích odpovídajících celým městům nebo dokonce státům je pro vědce unikátní příležitost. Ovšem experimenty nového typu jsou v začátcích, a proto není jednoduché aplikovat na ně stávající pravidla.

Kdo byl vybrán?

Do experimentu bylo zapojeno nejspíše jen velmi málo Čechů.

Do experimentu byly zařazeny jen příspěvky psané v anglickém jazyce uživatelů, kteří mají nastaven jako hlavní jazyk angličtinu. Bližší kritéria výběru nejsou známy.

I proto je zřejmě důležité, aby firmy na podobných výzkumech spolupracovaly s univerzitami a nechaly si poradit, co se etického rozměru týče. Nemůžeme si ovšem dělat iluze o tom, že podobných on-line experimentů dělá Facebook (a také Google a další firmy) desítky nebo stovky ročně.

Možná nebudou tak kontroverzní, protože nebudou pojmenovány „ovlivňování nálady lidí v masovém měřítku“, ale princip je podobný. Žádný souhlas předem (to by přece experiment narušilo), žádné informace po dokončení experimentu. A obvykle ani žádný publikovaný článek v odborném časopise. Pravdou totiž je, že účastníky pečlivě měřeného psychologického experimentu se stává každý, kdo se pohybuje na webu.

Ostatně podle některých odhadů podobné A/B experimenty dělá asi 15 % významných webů. Jen o tom nepublikují studie v uznávaných vědeckých časopisech.

Doplnění: Do článku jsme doplnili nové informace o načasování úpravy podmínek a další drobné opravy.

,