Klávesové zkratky na tomto webu - základní­
Přeskočit hlavičku portálu


Lidé udělali z umělé inteligence Microsoftu nacistu. Firma se omlouvá

  12:18aktualizováno  12:18
Společnost Microsoft vyzkoušela svou novou umělou inteligenci v podobě chatovacího robota. Toho na sociální síť Twitter vypustila se záměrem lépe porozumět lidské konverzaci. Za několik desítek hodin však musela tento experiment ukončit, protože se robot začal chovat neurvale.

Twitterový účet umělé inteligence Microsoft Tay | foto: TwiterTechnet.cz

Nový experiment společnosti Microsoft se poněkud vymkl kontrole. Chatovací robot (chatbot) Tay měl za úkol komunikovat prostřednictvím Twitteru s reálnými uživateli a na základě této komunikace se učit. Stačilo jen pár desítek hodin, aby z něj lidé udělali rasistu a šovinistu, který například obhajuje Hitlera.

Fotogalerie

Nedlouho po zahájení experimentu jej totiž uživatelé začali „krmit“ právě nesnášenlivými hláškami, které pak systém zpracoval a učil se z nich. Tay se následně začala nesnášenlivě až sprostě vyjadřovat k sexuálním, národnostním a dalším menšinám. To vše za necelých 24 hodin. Některé z odpovědí v podobě screenshotů zachytil server SocialHoax.

Firma urážlivé a xenofobní výroky zpočátku mazala, ale pak se rozhodla raději systém stáhnout a nejdříve jej naučit, jak podobným útokům čelit.

Tay se zatím loučí se slovy, že se potřebuje vyspat po dlouhé konverzaci:

24.března 2016 v 06:20, příspěvek archivován: 28.března 2016 v 09:35

c u soon humans need sleep now so many conversations today thx

Zároveň Microsoft vydal oficiální omluvu: „Velice se omlouváme za nezamýšlené útočné a zraňující tweety Tay, které jsou zcela mimo to, kdo jsme nebo za čím si stojíme, včetně toho, jak jsme navrhli Tay. Nyní je Tay v režimu off-line a vrátí se zpět jen tehdy, až si budeme jisti, že si dokáže poradit s úmysly, které jsou v rozporu s našimi zásadami a hodnotami.“

Firma přitom před vypuštěním do světa nechala Tay projít různými testy a zkouškami a nechala ji nejdříve komunikovat s malou skupinkou uživatelů. To, co se dělo poté, co s ní mohl komunikovat kdokoliv, Microsoft přirovnal ke koordinovanému útoku, který našel slabinu v navrženém softwaru a toho využil.

Experiment s chatbotem Tay tak zatím dopadl o něco hůře než předchozí čínský experiment Xiaoice (čtěte šao-ajs). Microsoft ho v roce 2014 představil čínské veřejnosti jako „mladší sestru digitální asistentky Cortana“ s úkolem chovat se jako sedmnáctiletá holka s vyřídilkou. Xiaoice napodobuje odpovědi skutečné dívky a konverzuje „na libovolné téma“. Kromě textové komunikace zvládá i základní rozpoznávání tématu podle obrazu. Vyzkoušelo ji prý už deset milionů lidí.

Samotný systém Tay se měl zaměřovat na uživatele ze Spojených států ve věku 18 - 24 let, což je největší skupina uživatelů sociálních sítí komunikujících přes mobilní zařízení. Měl dokázat konverzovat na různá témata, ale třeba i mile ohodnotit zaslanou fotografii nebo říci krátký příběh.

Autor:


Nejčtenější

„Tak mě zastřel!“ vykřikl ruský voják a zavraždil šestnáctiletého kluka

Vražedná zbraň. Touto pistolí Stečkin APS zastřelil opilý ruský voják Rudněv v...

„Teď v Československu platí sovětské zákony,“ řekl ruský generál vyšetřovatel Veřejné bezpečnosti, když pátrali po...

Zabil je výbuch ruského tanku v centru Prahy. KSČ ničila životy pozůstalým

Tanky typové řady T-54/55, ten blíž k fotografovi evidentně neschopný pohybu,...

Zatímco na pražské Vinohradské třídě hořel a vybuchoval tank, zmatení ruští vojáci na Václavském náměstí zahájili palbu...



Tento pancíř dá tankistům pocit bezpečí a jistoty. Ale bude to stačit?

SMART PROTech na tanku Leopard 2

Německá firma IBD Deisenroth Engineering (IBD) představila prototyp balistické ochrany SMART PROTech pro obrněná...

Úspěšný start. Sonda míří ke Slunci tak blízko, jako žádná předtím

Úspěšný start rakety Delta IV Heavy 12.8.2018 v 9:31 se sondou Parker Solar...

V neděli ráno se ke Slunci vydala unikátní sonda Parker Solar Probe. Měla by se přiblížit k naší hvězdě podstatně blíže...

Horký nápoj vás ve vedru ochladí lépe, zjistili vědci. Ale má to háček

Horký nápoj v horkém létě?

Biologie lidského těla někdy funguje přesně naopak, než by člověk čekal. Příkladem je pití horkých nápojů v létě. Zní...

Další z rubriky

Facebooku se daří jako mobilnímu prohlížeči, ale návštěvnost mu stále klesá

Logo společnosti Facebook

Interní webové zobrazení aplikace Facebooku je ve Spojených státech třetím nejpoužívanějším mobilním prohlížečem....

Facebook koupil technologii, která změní podobu jeho živých videí

Facebook

Live videa jsou na Facebooku populární a největší sociální síť je chce vylepšit, aby srovnala krok s konkurencí....

Končí služba Mujweb.cz, fungovat začala v minulém století

Mujweb.cz končí

Jedna z prvních služeb, kam jste mohli umístit svůj web, končí.

HUBNUTÍ: Dvojnásobná maminka zhubla 20 kilogramů
HUBNUTÍ: Dvojnásobná maminka zhubla 20 kilogramů

Maminka pod přezdívkou Adenka84 dokazuje, že opravdu lze omládnout! Během pár měsíců zhubla dvacet kilogramů – se dvěma dětmi, při návratu do práce a potížích se štítnou žlázou.

Najdete na iDNES.cz