Krátké zprávy

Islámský stát se svou vlajkou propaguje po obsazení měst v Sýrii i Iráku.

Islámský stát se svou vlajkou propaguje po obsazení měst v Sýrii i Iráku. | foto: Profimedia.cz

Automat má mazat ISIS z webu, kritici varují před přílišnou cenzurou

  • 12
Protiextremistická organizace vytvořila automat, který se na webu snaží potírat on-line propagandu tzv. Islámského státu (ISIS).

Islámský stát využívá sociální sítě ke své propagaci a rekrutování (psali jsme v našem předchozím článku), čehož může využít i při koordinaci akcí v zahraničí. Provozovatelé sociálních sítí a vlády se samozřejmě snaží tento dopad limitovat a také hackeři ze skupiny Anonymous prý dlouhodobě bojují s islamisty na webu, například hromadně nahlašují jejich účty nebo napadají jejich stránky DDoS útoky.

Nezisková organizace Counter Extremism Project (CEP) v červnu oznámila svůj pokus na tomto poli. Jedná se o automatizované řešení, které umožňuje platformám rychle vyhledávat a odstraňovat extremistický obsah. „Pokud se chopíme této příležitosti a využijeme tuto technologii, extrémisté budou mít na internetu a sociálních sítích mnohem méně příležitostí k rekrutování nebo propagaci násilí,“ řekl Hany Farid, poradce skupiny CEP.

Farid je profesorem výpočetní techniky na Dartmouth College a vyvinul algoritmus eGLYPH, který dokáže rozpoznat podobnosti v psaném textu, audio souborech i obrázcích. Farid plánuje zpřístupnit tento algoritmus velkým sociálním sítím jako Facebook, Google nebo Twitter. CEP také pracuje na shromažďování „databáze extrémistických obsahů“, která usnadní analýzu příspěvků.

Jak to skloubit se svobodou slova?

Už nyní velké firmy bojují proti extrémistům on-line. Twitter v srpnu oznámil, že zablokoval statisíce účtů, které „propagovaly teroristické činy“. Podle Reuters také Google a Facebook potichu pracují na automatické detekci extrémistických videí.

Ale podle některých odborníků je s identifikací teroristických příspěvků problém (větší než např. s dětskou pornografií). „Je řada rozporů ohledně toho, co dělá z příspěvku příspěvek extremistický,“ říká John Horgan, profesor psychologie na státní univerzitě v Georgii. Automatizované odstraňování příspěvků by mohlo vést k nechtěné cenzuře. Mohlo by také dojít k omezení svobody tisku, například v případě, kdy by novináři využili citace či úryvky z extremistického příspěvku a vykazovali by tak některé z podezřelých znaků.

Jilliam York, ředitel organizace Electronic Frontier Foundation, která se zabývá ochranou soukromí, varuje, že každá automatizovaná detekce bude nutně mít falešné nálezy (false positives), ať už kvůli chybné technologii, nebo chybné implementaci. Přísná automatická cenzura by mohla vést i ke snížení přirozené protireakce ostatních. Přitom právě debata je podle studie (kterou sponzoroval Google) často velmi efektivním nástrojem v boji proti extremismu.