Klávesové zkratky na tomto webu - základní­
Přeskočit hlavičku portálu


Lidé udělali z umělé inteligence Microsoftu nacistu. Firma se omlouvá

  12:18aktualizováno  12:18
Společnost Microsoft vyzkoušela svou novou umělou inteligenci v podobě chatovacího robota. Toho na sociální síť Twitter vypustila se záměrem lépe porozumět lidské konverzaci. Za několik desítek hodin však musela tento experiment ukončit, protože se robot začal chovat neurvale.

Twitterový účet umělé inteligence Microsoft Tay | foto: TwiterTechnet.cz

Nový experiment společnosti Microsoft se poněkud vymkl kontrole. Chatovací robot (chatbot) Tay měl za úkol komunikovat prostřednictvím Twitteru s reálnými uživateli a na základě této komunikace se učit. Stačilo jen pár desítek hodin, aby z něj lidé udělali rasistu a šovinistu, který například obhajuje Hitlera.

Fotogalerie

Nedlouho po zahájení experimentu jej totiž uživatelé začali „krmit“ právě nesnášenlivými hláškami, které pak systém zpracoval a učil se z nich. Tay se následně začala nesnášenlivě až sprostě vyjadřovat k sexuálním, národnostním a dalším menšinám. To vše za necelých 24 hodin. Některé z odpovědí v podobě screenshotů zachytil server SocialHoax.

Firma urážlivé a xenofobní výroky zpočátku mazala, ale pak se rozhodla raději systém stáhnout a nejdříve jej naučit, jak podobným útokům čelit.

Tay se zatím loučí se slovy, že se potřebuje vyspat po dlouhé konverzaci:

24.března 2016 v 06:20, příspěvek archivován: 28.března 2016 v 09:35

c u soon humans need sleep now so many conversations today thx

Zároveň Microsoft vydal oficiální omluvu: „Velice se omlouváme za nezamýšlené útočné a zraňující tweety Tay, které jsou zcela mimo to, kdo jsme nebo za čím si stojíme, včetně toho, jak jsme navrhli Tay. Nyní je Tay v režimu off-line a vrátí se zpět jen tehdy, až si budeme jisti, že si dokáže poradit s úmysly, které jsou v rozporu s našimi zásadami a hodnotami.“

Firma přitom před vypuštěním do světa nechala Tay projít různými testy a zkouškami a nechala ji nejdříve komunikovat s malou skupinkou uživatelů. To, co se dělo poté, co s ní mohl komunikovat kdokoliv, Microsoft přirovnal ke koordinovanému útoku, který našel slabinu v navrženém softwaru a toho využil.

Experiment s chatbotem Tay tak zatím dopadl o něco hůře než předchozí čínský experiment Xiaoice (čtěte šao-ajs). Microsoft ho v roce 2014 představil čínské veřejnosti jako „mladší sestru digitální asistentky Cortana“ s úkolem chovat se jako sedmnáctiletá holka s vyřídilkou. Xiaoice napodobuje odpovědi skutečné dívky a konverzuje „na libovolné téma“. Kromě textové komunikace zvládá i základní rozpoznávání tématu podle obrazu. Vyzkoušelo ji prý už deset milionů lidí.

Samotný systém Tay se měl zaměřovat na uživatele ze Spojených států ve věku 18 - 24 let, což je největší skupina uživatelů sociálních sítí komunikujících přes mobilní zařízení. Měl dokázat konverzovat na různá témata, ale třeba i mile ohodnotit zaslanou fotografii nebo říci krátký příběh.

Autor:



Nejčtenější

Okamura má na fotce z posilovny přifouknuté svaly. Jak poznat fotomontáž

Ukázka nepovedené fotomontáže z posilovny. Mřížka v pozadí ukazuje, k jakému...

Předseda SPD se na svém oficiálním profilu na Facebooku pochlubil fotkami z posilovny. Komentátoři si všimli, že fotka...

Hlavního strážce před rakovinou známe už 40 let. Ale neumíme ho využít

Bílkovina p53 se váže na snímku k DNA (oranžová šroubovice nahoře), aby...

Gen, který hraje nejdůležitější roli v boji proti rakovině, známe už desetiletí, ale v moderní cílené léčbě se...



V kanceláři i v obchodě. Ultrazvuk nám píská do uší, následky jen tušíme

Poslech vysokofrekvenčního pískání může být mnohým lidem nepříjemné.

Mnozí z nás, aniž by to věděli, jsou denně i několik hodin vystaveni pískotu na hranici slyšitelnosti lidského ucha. V...

Má po světě 76 pomníků. V ČR je ale „Osvoboditel sedláků“ neznámý

Před 100 lety zemřel Osvoboditel sedláků Hans Kudlich

7. října 1848 byl rakouským Říšským sněmem schválen zákon o zrušení roboty, jehož návrh v červenci téhož roku podal...

Kvůli ruskému metru mohla padnout stanice v Nuselském mostu, řekl architekt

Architekt Nuselského mostu Stanislav Hubička (vlevo) a Antonín Semecký, který...

Stanislav Hubička, architekt Nuselského mostu a Antonín Semecký, který se o most stará téměř doslova celý život, byli...

Další z rubriky

Facebook testuje nového průzkumníka. A není to pěkné

Jak vypadá svět přes facebookové brýle? Přesně tak, jak si přejete. Aspoň o to...

Facebook testuje novou funkci Explore Feed (Průzkumník), kam přesunuje z hlavního proudu informace ze stránek, které...

Okamura má na fotce z posilovny přifouknuté svaly. Jak poznat fotomontáž

Ukázka nepovedené fotomontáže z posilovny. Mřížka v pozadí ukazuje, k jakému...

Předseda SPD se na svém oficiálním profilu na Facebooku pochlubil fotkami z posilovny. Komentátoři si všimli, že fotka...

Falešné exekuční příkazy lákají z uživatelů peníze a mají zavirovat PC

Falešný exekutorský příkaz

Prostřednictvím e-mailů šíří podvodníci falešné exekuční příkazy, které mohou lákat z lidí peníze, ale spíše pomocí...



Najdete na iDNES.cz



mobilní verze
© 1999–2017 MAFRA, a. s., a dodavatelé Profimedia, Reuters, ČTK, AP. Jakékoliv užití obsahu včetně převzetí, šíření či dalšího zpřístupňování článků a fotografií je bez souhlasu MAFRA, a. s., zakázáno. Provozovatelem serveru iDNES.cz je MAFRA, a. s., se sídlem
Karla Engliše 519/11, 150 00 Praha 5, IČ: 45313351, zapsaná v obchodním rejstříku vedeném Městským soudem v Praze, oddíl B, vložka 1328. Vydavatelství MAFRA, a. s., je členem koncernu AGROFERT.