Lidé udělali z umělé inteligence Microsoftu nacistu. Firma se omlouvá

  12:18
Společnost Microsoft vyzkoušela svou novou umělou inteligenci v podobě chatovacího robota. Toho na sociální síť Twitter vypustila se záměrem lépe porozumět lidské konverzaci. Za několik desítek hodin však musela tento experiment ukončit, protože se robot začal chovat neurvale.

Twitterový účet umělé inteligence Microsoft Tay | foto: TwiterTechnet.cz

Nový experiment společnosti Microsoft se poněkud vymkl kontrole. Chatovací robot (chatbot) Tay měl za úkol komunikovat prostřednictvím Twitteru s reálnými uživateli a na základě této komunikace se učit. Stačilo jen pár desítek hodin, aby z něj lidé udělali rasistu a šovinistu, který například obhajuje Hitlera.

Nedlouho po zahájení experimentu jej totiž uživatelé začali „krmit“ právě nesnášenlivými hláškami, které pak systém zpracoval a učil se z nich. Tay se následně začala nesnášenlivě až sprostě vyjadřovat k sexuálním, národnostním a dalším menšinám. To vše za necelých 24 hodin. Některé z odpovědí v podobě screenshotů zachytil server SocialHoax.

Firma urážlivé a xenofobní výroky zpočátku mazala, ale pak se rozhodla raději systém stáhnout a nejdříve jej naučit, jak podobným útokům čelit.

Tay se zatím loučí se slovy, že se potřebuje vyspat po dlouhé konverzaci:

24.března 2016 v 06:20, příspěvek archivován: 28.března 2016 v 09:35

c u soon humans need sleep now so many conversations today thx

Zároveň Microsoft vydal oficiální omluvu: „Velice se omlouváme za nezamýšlené útočné a zraňující tweety Tay, které jsou zcela mimo to, kdo jsme nebo za čím si stojíme, včetně toho, jak jsme navrhli Tay. Nyní je Tay v režimu off-line a vrátí se zpět jen tehdy, až si budeme jisti, že si dokáže poradit s úmysly, které jsou v rozporu s našimi zásadami a hodnotami.“

Firma přitom před vypuštěním do světa nechala Tay projít různými testy a zkouškami a nechala ji nejdříve komunikovat s malou skupinkou uživatelů. To, co se dělo poté, co s ní mohl komunikovat kdokoliv, Microsoft přirovnal ke koordinovanému útoku, který našel slabinu v navrženém softwaru a toho využil.

Experiment s chatbotem Tay tak zatím dopadl o něco hůře než předchozí čínský experiment Xiaoice (čtěte šao-ajs). Microsoft ho v roce 2014 představil čínské veřejnosti jako „mladší sestru digitální asistentky Cortana“ s úkolem chovat se jako sedmnáctiletá holka s vyřídilkou. Xiaoice napodobuje odpovědi skutečné dívky a konverzuje „na libovolné téma“. Kromě textové komunikace zvládá i základní rozpoznávání tématu podle obrazu. Vyzkoušelo ji prý už deset milionů lidí.

Samotný systém Tay se měl zaměřovat na uživatele ze Spojených států ve věku 18 - 24 let, což je největší skupina uživatelů sociálních sítí komunikujících přes mobilní zařízení. Měl dokázat konverzovat na různá témata, ale třeba i mile ohodnotit zaslanou fotografii nebo říci krátký příběh.

Autor:
  • Nejčtenější

Kam pro filmy bez Ulož.to? Přinášíme další várku streamovacích služeb do TV

v diskusi je 125 příspěvků

26. března 2024

S vhodnou aplikací na vás mohou v televizoru na stisk tlačítka čekat tisíce filmů, seriálů nebo...

Z jaderné triády zbyly Britům už jen ponorky. A ty musejí posílit

v diskusi je 76 příspěvků

27. března 2024

Jadernou triádu tvoří strategické bombardéry s jadernými zbraněmi, mezikontinentální balistické...

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Hlučínsko patří nám. Před 100 lety byl podepsán definitivní protokol o hranici

v diskusi je 44 příspěvků

28. března 2024

Před 100 lety definitivně skončily tahanice o československo-německé hranice. 28. března 1924 byl...

Rusko zastavilo odlet na ISS s první Běloruskou, letět měla i Američanka

v diskusi je 50 příspěvků

21. března 2024  10:23,  aktualizováno  14:26

Ve čtvrtek 21. března se necelých deset minut před půl třetí odpoledne měla vydat na Mezinárodní...

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Američané odepsali modul, který je vrátil po půl století na Měsíc

v diskusi je 21 příspěvků

28. března 2024,  aktualizováno  11:41

Od začátku letošního roku je na Měsíci a kolem něj poměrně rušno. Vedle řady sond, které zamířily...

Za vyhynutím dinosaurům mohla být i doba temna

v diskusi nejsou příspěvky

29. března 2024

Dopad planetky je nyní většinou odborníků považován za hlavní příčinu vyhynutí zhruba 73 až 76 %...

Podívejte se na Boeing C-17 Globemaster, který do Česka přivezl nové vrtulníky

v diskusi jsou 2 příspěvky

29. března 2024

V sobotu 23. března dosedl v Praze nákladní letoun USAF, který vezl obzvlášť cenný náklad. Z...

Dočasná raketa se po téměř 70 letech loučí. Bude startovat naposledy

v diskusi jsou 4 příspěvky

28. března 2024  15:36,  aktualizováno  19:54

Tento čtvrtek stojí na startovací rampě mysu Canaveral poslední potomek raket Thor, nosič Delta IV...

Američané odepsali modul, který je vrátil po půl století na Měsíc

v diskusi je 21 příspěvků

28. března 2024,  aktualizováno  11:41

Od začátku letošního roku je na Měsíci a kolem něj poměrně rušno. Vedle řady sond, které zamířily...

Smoljak nechtěl Sobotu v Jáchymovi. Zničil jsi nám film, řekl mu

Příběh naivního vesnického mladíka Františka, který získá v Praze díky kondiciogramu nejen pracovní místo, ale i...

Rejžo, jdu do naha! Balzerová vzpomínala na nahou scénu v Zlatých úhořích

Eliška Balzerová (74) v 7 pádech Honzy Dědka přiznala, že dodnes neví, ve který den se narodila. Kromě toho, že...

Pliveme vám do piva. Centrum Málagy zaplavily nenávistné vzkazy turistům

Mezi turisticky oblíbené destinace se dlouhá léta řadí i španělská Málaga. Přístavní město na jihu země láká na...

Velikonoce 2024: Na Velký pátek bude otevřeno, v pondělí obchody zavřou

Otevírací doba v obchodech se řídí zákonem, který nařizuje, že obchody s plochou nad 200 čtverečních metrů musí mít...

Kam pro filmy bez Ulož.to? Přinášíme další várku streamovacích služeb do TV

S vhodnou aplikací na vás mohou v televizoru na stisk tlačítka čekat tisíce filmů, seriálů nebo divadelních...