V květnu 2020 představil Facebook světu dlouho připravovaný projekt nezávislého etického panelu, tzv. dozorčí komise (oversight board). Tvoří ji dvacítka osobností z celého světa: právníci, soudci, akademici, odborníci na technologie i bývalí politici. „Nejsme internetová policie, spíš odvolací soud,“ vysvětlil novinářům člen komise Michael McConnell. A slíbil tehdy, že se bude nově ustavená skupina zabývat kontroverzními problémy týkajícími se moderování obsahu na platformě Facebook.
Nyní, po tři čtvrtě roce zveřejnil panel první verdikty. Nejsou na první pohled nijak zásadní, ale značí, jakou cestou se tento „soud“ rozhodl vydat. Podobně, jako si americký Nejvyšší soud musel v historii vydobýt postavení tím, že sám sebe definoval, také dozorčí komise si nyní hledá způsob, jak se vymezit vůči Facebooku a uchovat si nezávislost. A tak přestože v prvních pěti „rozsudcích“ není žádný mediálně známý případ, je to zajímavé čtení.
Čtyři spolupředsedové dozorčí komise
Připomeňme, že nezávislá komise (není součástí firmy Facebook, jak nám během květnového představení zástupci několikrát zdůraznili) si případy vybírá svobodně, především na základě stížností lidí ohledně smazaného obsahu. A právě odstraněných příspěvků se týkalo i prvních pět případů.
1. První případ skončil dřív, než začal
Jako historicky první případ si panel vybral stížnost na komentář smazaný kvůli tzv. projevu nenávisti („hate speech“) vůči muslimům.
Jak Facebook definuje projevy nenávisti?Projev nenávisti pravidla chápou jako „přímý útok na lidi na základě tzv. chráněných rysů, tedy rasy, etnika, národnosti, náboženského přesvědčení, sexuální orientace, pohlaví, genderové identity nebo vážného tělesného postižení či choroby, výzvy k vyloučení a segregaci“. Moderátoři jsou naopak instruovaní, aby ponechali příspěvky, které by formálně splňovaly definici nenávistného projevu, ale jedná se o kritiku násilí, sdílení nenávistného projevu s cílem upozornit na něj, zjevnou satiru a ironii či společenský komentář. Zobrazit více Sbalit |
Konkrétně uživatel vložil do komentáře screenshot tweetů malajského expremiéra Mahathra Moahmada, který v nich uvedl, že „muslimové mají právo zabíjet miliony Francouzů kvůli masakrům v minulosti (...) ale většina muslimů neaplikuje oko za oko a nedělá to. Muslimové to nedělají. Francouzi by to neměli dělat. Místo toho by Francouzi měli naučit své lidi respektovat city ostatních“. Komentář byl následně Facebookem smazán.
V odvolání ke komisi uživatel uvedl, že chtěl „zvýšit povědomí o hrozných slovech expremiéra“.
Než se však komise k případu vyjádřila, autor původního příspěvku, pod který byl umístěn smazaný komentář, svůj příspěvek odstranil. „Nebylo by tedy ani teoreticky možné, aby došlo k obnovení komentáře,“ vysvětlila komise, proč se vybraný případ nakonec nedostal do další fáze, tedy do obecné diskuze. Byl to jediný ze zatím řešených případů, u něhož komise z formálních důvodů nevynesla žádný verdikt.
2. Ne každá kritika muslimů je nenávistný projev
Druhý vybraný případ pochází z Myanmaru (dříve Barmy), proto je verdikt dostupný také v barmštině. Uživatel si stěžoval, že byl smazán jeho příspěvek, ve kterém napsal: „Je něco špatně s psychikou muslimů, nebo muslimských mužů.“ Vyčítal jim, že se dostatečně neohrazují proti zacházení s Ujgury v Číně (muslimská menšina čelí v Číně perzekucím a povinné internaci a převýchově) a „víc se nevymezují proti komiksům zobrazujícím Proroka Mohameda“ ve Francii. Facebook příspěvek označil za projev nenávisti a jako takový ho odstranil.
KOMENTÁŘ: V čem spočívá skutečný problém sociálních sítí? |
Komise si nechala text přeložit a od překladatelů dostala vyjádření, že použité termíny „je něco špatně s (jejich) psychikou“ byly spíš popisné než urážlivé. Komise dále požádala odborníky, aby posoudili kontext v rámci „obvyklých nenávistných stereotypů“ v kontextu muslimů a Myanmaru. „Na základě toho komise věří, že komentář lze vykládat jako upozornění na zdánlivě nekonzistentní přístup muslimů na události ve Francii a v Číně. Příspěvek podle komise nepodněcoval k nenávisti. „Komise neshledává, že by odstranění příspěvku bylo nutné k ochraně druhých.“
„Dozorčí komise tímto ruší rozhodnutí Facebooku odstranit obsah z platformy a požaduje, aby byla jeho přístupnost obnovena,“ stojí v historicky prvním takovém verdiktu. Následuje podrobné odůvodnění, v němž komise například rozepisuje, proč je ponechání takového komentáře v souladu s „hodnotami firmy Facebook“. Právě tyto deklarované hodnoty totiž mají tvořit ideový základ, podle kterého se komise rozhoduje: „Přestože samotná první věta předmětného příspěvku by mohla vypadat, jako že napadá chráněnou skupinu obyvatel, když se na příspěvek podíváme jako na celek, není tomu tak. (...) Jde o názor, a publikování názoru je chráněno komunitními pravidly. Nesplňuje měřítka pro nenávistný projev, která by opodstatňovala jeho odstranění.“
Toto rozhodnutí zatím jako jediné vyvolalo větší nesouhlasnou odezvu. „Dozorčí komise Facebooku se snaží obhájit nenávistný projev v Myanmaru,“ uvedl mluvčí americké organizace Muslim Advocates. „Je zřejmé, že komise zde existuje proto, aby zbavila Marka Zuckerberga a Sharyl Sandbergovou zodpovědnosti. Na základě směšných technikálií tak dovolí publikovat obsah, který přispívá ke genocidě.“
3. Odstranit nadávku bylo v pořádku
Třetí verdikt se týkal obsahu v Ázerbajdžánu a je k dispozici kromě angličtiny také v arménštině, ázerjbadžánštině a ruštině. Facebook se rozhodl odstranit rusky psaný příspěvek z listopadu 2020, ve kterém autor použil nadávku tazici (volně přeloženo „lavóry“) pro popis Ázerbajdžánců. Příspěvek byl publikován během arménsko-ázerbajdžánského konfliktu a byl Facebookem odstraněn kvůli projevům nenávisti.
Zatím jde o jediný verdikt, ve kterém komise potvrdila rozhodnutí Facebooku. „Nezávislá jazyková analýza, kterou si komise zadala, vyhodnotila výraz jako odlidšťující nadávku na základě národní příslušnosti,“ zní odůvodnění. Komise dále Facebooku doporučila, aby při odstranění obsahu zároveň uživatele podrobně informoval o tom, jaké pravidlo jeho příspěvek porušil a která konkrétní pasáž tomuto pravidlu odporuje. V tomto případě totiž autor dostal jen obecné upozornění a nemusel tedy vědět, čeho konkrétně se porušení týkalo: „Facebook nebyl dostatečně transparentní, což vedlo uživatele k mylnému závěru, že byl jeho příspěvek smazán kvůli vyjádření nějakým způsobem nepovoleného názoru.“
Facebook v reakci (komise má stránky nezávislé na Facebooku a Facebook tak reaguje jinde) slíbil, že navrženou změnu zváží.
4. Automat odstranil fotku kvůli ženským bradavkám
Čtvrté rozhodnutí se týká fotky umístěné na síť Instagram, která patří firmě Facebook. Obrázek zachycoval osm častých symptomů rakoviny prsu, přičemž pětkrát byla vidět odhalená bradavka. Automatický systém pro detekci nahoty proto fotografii odstranil. Již dříve přitom Facebook výslovně uvedl, že v kontextu kojení nebo zvyšování povědomí o rakovině prsu neplatí zákaz zobrazení nahých ženských prsou.
Nejzajímavější část případu se překvapivě odehrála ještě před vynesením verdiktu. Poté, co komise v prosinci 2020 zveřejnila, že se tímto případem bude zabývat, Facebook „revidoval“ svoje rozhodnutí a fotku obnovil. Komise se však případem i přesto zabývala: „Společnost Facebook tvrdí, že tím, že situaci napravila, už není případ relevantní. Tento argument ovšem komise odmítá.“ Rozhodnutí Facebooku dodatečně zvrátit vlastní rozhodnutí prý nesmí mít vliv na činnost dozorčí komise, jinak by Facebook nepřímo zasahoval do její činnosti.
Komise po zvážení kontextu (šlo o symptomy nemoci, růžová barva odkazovala na rakovinu prsu) nařídila zrušit smazání a fotografii obnovit. Navíc doporučila Facebooku, aby upravil pravidla nejen na Instagramu tak, aby bylo nade vší pochybnost jasné, že je takovéto zobrazení prsou povolené.
V neposlední řadě se komise pozastavila nad tím, že k odstranění došlo na základě činnosti automatu, a to zřejmě bez možnosti se proti takovému rozhodnutí odvolat v rámci Facebooku: „Automatické metody mají své limity. V tomto případě nedokázaly rozpoznat slova „rakovina prsu“ vepsaná do obrázku. Komise rozumí tomu, že automatické systémy jsou nezbytnou součástí monitorování obsahu. Ale když se moderování spolehne pouze na automat, zvláště na automat neschopný pochopit kontext, dochází k disproporčnímu narušení svobody slova uživatele.“
5. Citát mylně přičítaný nacistovi
Pátý případ je tak trochu zamotaný, což ostatně není na Facebooku výjimkou – kdyby bylo rozhodování o přípustném obsahu snadné, nebylo by kolem něj tolik kontroverzí a dohadů.
V říjnu 2020 uživatel sdílel anglicky psaný citát, u kterého byl jako jeho autor uveden Joseph Goebbels, nacistický ministr propagandy a blízký důvěrník Adolfa Hitlera. Citát mluví o tom, že „nemá cenu snažit se konvertovat intelektuály, namísto toho je potřeba apelovat na emoce a instinkty, nikoli na intelekt.“
Uživatel podle svých slov sdílel citát ze „vzpomínek“ (tedy uživatel jej sdílel poprvé před několika lety a Facebook mu jej proto znovu ukázal a nabídl ke sdílení) a chtěl jím upozornit na to, že podobně podle něj jedná i americký prezident Donald Trump.
Facebook jeho „vzpomínku“ smazal s odkazem na pravidla o nebezpečných osobnostech a organizacích.
Nebezpečné osobnosti a organizace„Ve snaze nedopustit ubližování a předcházet mu v reálném světě nepovolujeme přítomnost na Facebooku žádné organizaci ani jednotlivci, jejichž cílem je šířit násilí nebo kteří jsou do násilných aktivit zapojení,“ stojí v pravidlech. Týká se to terorismu, organizovaného šíření nenávisti, vražd, obchodování s lidmi a organizovaného násilí. Mezi teroristické organizace pak řadí nestátní aktéry, kteří jsou zapojeni do „účelných a plánovaných násilných činů nebo tyto činy obhajují, případně jim poskytují značnou podporu.“ „Nepovolujeme obsah, který vychvaluje, podporuje nebo hájí události, které Facebook považuje za teroristické útoky, nenávistné akce, masové vraždy nebo pokusy o masovou vraždu, sériové vraždy, trestné činy z nenávisti nebo případy porušení předpisů,“ pokračují pravidla. Zobrazit více Sbalit |
Joseph Goebbels je skutečně na tomto seznamu nebezpečných osobností a Facebook považuje sdílení jeho slov za podporu, pokud není uveden kontext, který ukazuje, že se o podporu nejedná. Komise však došla k závěru, že daný citát nevyjadřoval podporu nacistické straně NSDAP, což je ona zločinecká organizace, na kterou by se pravidlo vztahovalo.
Navíc se komisi nelíbí, že pravidlo není transparentní ani intuitivní: „Dle mezinárodních úmluv o lidských právech musí být každé omezení svobodného vyjadřování jasné, přesné a veřejně známé, tak aby jednotlivci věděli, čím se mají řídit. Komise se nedomnívá, že pravidla Facebooku týkající se nebezpečných organizací a osob tyto podmínky splňuje.“ Především si zde komise všímá toho, že veřejná pravidla mají jakousi neveřejnou nadstavbu, konkrétně seznam osob, které nelze bez uvedení do kontextu citovat.
Zcela stranou pak komise nechala fakt, že se nejedná o skutečný Goebbelsův citát. Facebook totiž při posuzování citátů neověřuje, zda jde o skutečný citát, nebo o citát chybně přisuzovaný. Rozhodně tak nevadila slova citátu, ale atribuce, která byla mylná. Uživatel ve vyjádření pro komisi uvedl, že citát sdílel s cílem porovnat fašistický model s (tehdy) vládnoucím prezidentem USA, podle archivovaných komentářů to tak pochopilo i jeho publikum.
Komise zvrátila rozhodnutí Facebooku a přikázala obsah obnovit. Zároveň Facebooku doporučila, aby lépe vysvětlil, na základě čeho posuzuje nebezpečnost osob a organizací a co znamená „schvalování“ nebo „podpora“. Firma by také měla uvést seznam takových organizací a osob, když už ne vyčerpávající, tak alespoň ilustrativní.
6. Příliš přísné aplikování dobrého pravidla
Šestý a zatím poslední verdikt se týká aktuálně probíhající celosvětové epidemie. Facebook je dlouhodobě kritizován za to, že umožňuje šíření nepravdivých a zavádějících zpráv souvisejících s covidem a firma má od jara 2020 speciální postupy pro příspěvky týkající se covidu. Komise se však domnívá, že jsou tyto postupy někdy aplikovány příliš přísně a mechanicky.
Případ se týká videa doprovázeného textem, které publikoval francouzský uživatel. Příspěvek naznačoval skandál ve francouzské národní agentuře zodpovědné za bezpečnost léčiv (Agence Nationale de Sécurité du Médicament). Uživatel ji kritizoval za to, že schválila použití remdesiviru, ale nikoli hydroxychloroquinu v kombinaci s azithromycinem, což byla kombinace, kterou propagoval francouzský lékař Didier Raoult (na základě malé, nerandomizované studie z března 2020, která byla vědci kritizována jako zcela nedostatečná k nějakým závěrům).
Jak bude Facebook implementovat rozhodnutí dozorčí komise
Facebook příspěvek odstranil a jako důvod uvedl možné poškození zdraví na základě šíření nepravdivých zdravotních informací. Komise však odmítla argumentaci s tak širokým výkladem: „Uživatel vyjádřil opozici k vládnímu rozhodnutí a usiloval o změnu tohoto rozhodnutí. Příspěvek nepovzbuzoval čtenáře k tomu, aby tuto kombinaci léků užívali bez doporučení lékaře.“ Proto se komise domnívá, že Facebook neukázal, čím představuje příspěvek „bezprostřední ohrožení“, což je standard, kterým je poměřována nebezpečnost příspěvků, které je nutno okamžitě odstranit. Místo toho mohl Facebook využít stávajících pravidel pro zasazení zprávy do kontextu, tedy zobrazení odkazu na informace Světové zdravotnické organizace nebo nezávislých ověřovacích organizací.
Celkově by pak měl Facebook uživatelům lépe objasnit, co jsou „zdravotní dezinformace“ a jak s nimi zachází. V případě, že dezinformace nepředstavuje bezprostřední riziko, neměl by Facebook zakazovat její publikaci, a tak znemožňovat otevřenou diskuzi. Místo toho komise doporučuje využít „méně obtěžující prostředky“.
„Příspěvek kritizoval vládní pravidla, a takové příspěvky si zaslouží obzvláštní ochranu před potlačováním svobodného šíření názorů,“ píše komise s odkazem na Mezinárodní pakt o občanských a politických právech (ICCPR). „Uživatel pravděpodobně chtěl, aby jeho příspěvek získal pozornost dotyčného úřadu. Uživatel v něm mluví o obavě týkající se veřejného zdraví, jakkoli jde o obavu, která je v lékařské komunitě minoritně zastoupená.“ Jako důležitý detail zde komise podtrhává, že příspěvek nepovzbuzuje k tomu, aby jednotliví pacienti používali neschválené léky, ale apeluje na změnu pravidel.
Komise také vyzvala Facebook, aby publikoval transparentní souhrnnou zprávu o tom, jak postupoval v jiných případech informací a dezinformací šířených o krizi související s covidem-19. Konkrétně by měla obsahovat: kolik příspěvků bylo odstraněno a proč, rozpad podle důvodu a porušeného pravidla, rozpad podle typu detekce (automat, moderátor, nahlášení) a shrnutí toho, jak se na šíření obsahu projevila upozornění a „nálepky“, které Facebook vedle informací o covidu-19 zobrazuje.
Příště je na řadě kauza Trump
Prvních šest případů naznačuje, jak se chce komise do budoucna profilovat. Zdůrazňuje svoji nezávislost, opírá svoje rozhodnutí o analýzy a kromě jednotlivých verdiktů dává Facebooku i doporučení, jak změnit obecný postup.
Zatímco však verdikty týkající se jednotlivých případů jsou pro Facebook závazné (firma se zavázala, že je bude respektovat a dodržovat), u doporučení je situace jiná. Protože navíc verdikty nemají „precedentní sílu“, je jejich dosah předem omezený. Spíš než „nejvyšší soud“ tak komise připomíná „organizované svědomí“ nebo „ombudsmana“.
Prozatím neprobírala komise žádný velký, mediálně známý případ. To se však brzy změní. Na konci ledna totiž komise oznámila, že se v příští várce bude zabývat kauzou Trump. Účty (dnes již bývalého) amerického prezidenta zablokoval Facebook v reakci na násilí 6. ledna v americkém Kapitolu a obavy z podněcování dalšího násilí skrz šíření nepravdivých informací o výsledcích voleb. Půjde rozhodně o případ s největším dopadem, který bude pochopitelně i ostře sledovaný. Verdikt tím či oním směrem bude – v konkrétním případě – pro Facebook závazný.
Na druhou stranu, všechny dosavadní případy ukazují i výrazné omezení možností komise smysluplně ovlivnit fungování Facebooku nad rámec toho, že obnoví jednotlivé příspěvky (kapka v moři) a dají doporučení (kterými se Facebook nemusí řídit). Facebook sice komisi přímo požádal o obecná doporučení, ale jde právě jen o doporučení. Konečné rozhodnutí o úpravě pravidel do budoucna náleží Facebooku.
