Klávesové zkratky na tomto webu - základní­
Přeskočit hlavičku portálu

Chceme černou skříňku? Superchytré počítače doktory nenahradí

aktualizováno 
Superpočítač Watson od IBM radí lékařům a chystá se zvládnout právo. A to je jen začátek. Představte si, jak převrátí naruby i to vaše odvětví. Co by vám chápající a učící se počítač usnadní? A co byste mu naopak nesvěřili?

Jak se změní vidění světa, pokud na něj budeme nahlížet optikou superchytrého počítače? | foto: Profimedia.cz

Jestli ještě někdo pochyboval o tom, že sci-fi představa o vševědoucím počítači je realistická, spadla mu čelist na začátku roku 2011. Tehdy vědci z IBM fandili z publika svému stroji a sledovali, jak ve vědomostní soutěži Jeopardy (u nás Riskuj) porazil lidské mnohonásobné šampiony.

Superpočítač Watson vyhrál třídenní soutěž Jeopardy nad nejlepšími lidskými...

Superpočítač Watson vyhrál třídenní soutěž Jeopardy nad nejlepšími lidskými soutěžícími všech dob.

Programátoři v publiku skutečně mohli pouze fandit. I kdyby chtěli Watsonu nějak pomoci, nevěděli by zřejmě jak. Jeho učící algoritmy, procedury pro porozumění přirozené řeči a hlavně mohutná a mnohočetná analýza velkých dát už byly po dvou letech vývoje tak komplexní, že vývojáři nedokázali říci, proč Watson odpověděl tak, jak odpověděl. Stejně jako rodiče, kteří učí dítě mluvit po slovíčkách, ale stejně žasnou, když se pak dítě naučí sestavovat věty, a netuší, kde se to v něm vzalo.

Programátoři mohli počítači v předstihu pomoci s louskáním očekávatelných otázek, mohli mu nadefinovat nové kategorie a vzorce otázek, dvojsmyslů i chytáků. Ale pak už jen sledovali a doufali, že paralelní výpočty různých možností, hledání souvislostí a korelací v encyklopediích a tabulkách a závěrečné vyhodnocení miliard operací vyústí ve správnou odpověď.

Doktor Watson. Vlastně asistent Watson

Pokročilé pokusy o netriviální a učící se umělou inteligencí, mezi něž patří i projekt Watson, jsou fascinující. Mohou nám leccos říci o tom, jak funguje naše myšlení, čím se necháme zmást (vizte kognitivní omyly) a v neposlední řadě mohou umožnit lepší utřídění petabajtů informací, které se objevují každý den.

IBM už při představení Watsonu veřejnosti avizovalo, že se s tímto superpočítačem chystá na pomoc lékařům. Je to krok logický. Lékařských studií totiž vzniká mnohem více, než je běžný smrtelník schopen přečíst. Současné lékařské poznatky jsou tedy distribuovány neefektivně a trpí tím pacienti, kteří nejsou léčeni podle nejnovějších dat.

Počítač na principu Watsonu to má změnit. Pročítá miliony vědeckých studií, učí se o nových souvislostech a srovnává tyto nové poznatky se zdravotní kartou konkrétního pacienta.

Ukázka zapojení Watsona v lékařství (Zurich 2012)
Ukázka zapojení Watsona v lékařství (Zurich 2012)

Watson by měl na základě zdravotní dokumentace a aktuálních poznatků lékaři doporučit, jaké další testy by měl pacient podstoupit a jaká léčba má nejvyšší šanci na úspěch. Lékař může vložit další požadavky nebo se podívat na studie, ze kterých Watson vycházel. (Fotografie z IBM Research centra v Zurichu)

Může statistika nahradit inspiraci?

Taková je alespoň základní myšlenka. Watson má být rádce, nikoli řešitel problémů. "Watson má být asistent lékaře, proto mu také nechceme říkat doktor Watson, protože to by vypadalo, že má doktora nahradit. Ale Watson má za lékaře jen udělat namáhavou práci a rozsáhlý výzkum, nabídne možnosti a zdůvodní je," připomněl  expert na velká data z IBM Dirk DeRoos (velký rozhovor s ním najdete zde).

Asistované vyhledávání souvisejících informací je evidentně prospěšné a není náhoda, že si IBM vybralo právě tuto oblast. Vědecké práce a studie jsou přece jen docela strukturované dokumenty (i když pořád ne tak strukturované, aby mohly být zpracovány strojově s naprostou jistotou) a také používání terminologie je zde relativně ustálené. 

Problém by mohl nastat ve chvíli, kdy by expertní systémy byly tak rozšířené, že by na nich byla odchovaná celá generace lékařů. Podobně, jako jsme si zvykli neučit se pravopis, protože na Googlu rychle zjistíme, jestli se píše "shlédnout" nebo "zhlédnout", také doktoři by si přirozeně nechali poradit v případech, kdy dnes musejí používat paměť, a alokovali by svou pozornost jiným směrem. A Watson by se tak z asistenta stal doktorem. Chytrým rádcem, který od krále postupem času nenápadně převzal království. A nikdo by ani nevěděl, na základě čeho rádce vlastně radí.

A co teprve další generace, kdy závěry, které radí Watson, jsou používány v dalších průzkumech, ze kterých Watson čerpá? V tu chvíli už se vliv černé skříňky zacykluje a znásobuje. Těžko lze očekávat, že by výzkumníci této možnosti nevyužili. Jenže co to do budoucna znamená pro výzkum? Může klesnout kreativita, náhodné objevy nebo se zkrátka opakovat nevystopovatelná chyba. A nikdo si toho ani nevšimne.

Watson do kapsy? Nechcete rovnou Sherlocka?

IBM doufá, že systém učícího se superpočítače promění v úspěšný byznys. Jednou z vizí je i "Watson do kapsy". Asistent by sídlil ve vašem mobilu a dával by vám odpovědi laděné na míru přímo vašim potřebám a zvykům (o něco podobného se snaží Google s Google Now a Apple se Siri). 

Zatím je podle Debory Dahlové z IBM problém dostat data k Watsonovi v čitelné podobě. "Je spousta oblastí, kde Watson potřebuje znát vaši konkrétní situaci, aby vám mohl dobře poradit," řekla pro Technology Review. "Myslím, že směřujeme k systému, který bude nabízet hloubkovou analýzu i porozumění smyslu mluvené řeči."

Watson se jmenuje podle zakladatele společnosti IBM, ale většině lidí se pod tímto jménem vybaví pomocník legendárního detektiva Sherlocka Holmese. Doktor Watson skutečně v Doylových románech plnil funkci, o kterou se uchází jeho počítačový jmenovec. Odpovídá na návodné otázky, shrnuje známé informace. A dává Sherlockovi zpětnou vazbu, na základě které geniálního detektiva napadne řešení záhadného případu. Stejně tak i lékaře by mohlo napadnout kreativní rozuzlení poté, co za něj počítač odvede suchopárný výzkum.

Umělá inteligence a etika

Kdo je zodpovědný za to, když robot nabourá auto?

Ale proč by vlastně počítač rovnou neplnil funkci Sherlocka? Vždyť je k tomu "jako" dělaný. Má prakticky bezchybnou paměť, umí hledat korelace tam, kde by je nikdo nehledal, a pracuje s chladnou přesností bez ohledu na emoce nebo zdání.

A v tom je podle mého názoru jádro problému. Dokud necháme superpočítač, aby hrál roli Watsona, a budeme si vědomi jeho omezení, není se moc čeho bát. Jakmile začneme počítačům věřit natolik, že jim svěříme roli hlavního geniálního detektiva, máme problém. Sherlock je totiž tak trochu psychopat.

Právě odlidštění bychom se při řešení problémů měli bát. V tom spočívá síla i slabina počítačové analýzy. Pečlivě studujme, co tato nová technologie znamená pro naše vnímání světa. Jinak nám hrozí, že budeme řešit jen ty problémy, které počítače řešit umí. Tedy ty, které se týkají efektivity, alokace zdrojů a kvantifikovatelných korelací.

Komplexní, zašmodrchané, překvapivé, tedy jinými slovy lidské problémy by pak mohly propadnout sítem, aniž by společnost spoléhající na superpočítač hnula brvou.

Autor:






Hlavní zprávy

Najdete na iDNES.cz



mobilní verze
© 1999–2016 MAFRA, a. s., a dodavatelé Profimedia, Reuters, ČTK, AP. Jakékoliv užití obsahu včetně převzetí, šíření či dalšího zpřístupňování článků a fotografií je bez souhlasu MAFRA, a. s., zakázáno. Provozovatelem serveru iDNES.cz je MAFRA, a. s., se sídlem
Karla Engliše 519/11, 150 00 Praha 5, IČ: 45313351, zapsaná v obchodním rejstříku vedeném Městským soudem v Praze, oddíl B, vložka 1328. Vydavatelství MAFRA, a. s., je součástí koncernu AGROFERT ovládaného Ing. Andrejem Babišem.