Záhada: Roboti řídí lépe než lidé. Ale kdo může za to, když nabourají?

Sci-fi se přiblížilo rychleji, než mnozí čekali. Autonomní robotická auta společnosti Google už jezdí v plném provozu a na trh by mohla přijít už za pět let. Zákony ovšem nejsou připraveny na nehody, které zavinila umělá inteligence. Je majitel robotického auta viník nehody, nebo její oběť?

Google auto umí jezdit bez řidiče v běžném provozu. | foto: Profimedia.cz

Na podzim 2010 se svět dozvěděl, že programátoři a inženýři zdolali další milník umělé inteligence. Speciálně upravené auto společnosti Google dokáže jezdit bez zásahu řidiče v plném provozu. Krátce nato americký stát Nevada přítomnost "automatizovaných aut" (self-driving cars) posvětil zákonem, jako další následovala Kalifornie.

Robotická auta by se mohla prodávat už za pět let. Pokud to umožní legislativa.

Google předpokládá, že auta bez řidičů by se mohla na trhu objevit už za tři až pět let. "Zatím není jisté, v jaké formě tento produkt uvolníme," uvedl pro Washington Post projektový manažer Googlu Anthony Levandowski. Google zřejmě bude dodávat technologii pro auta bez řidiče výrobcům automobilů. Brzdou by se mohla stát legislativa, která zatím na prodej robotických aut není připravena.

Prototypy Google aut zatím najezdily bez řidiče více než půl milionu kilometrů v reálném provozu, a to bez jediné nehody. Vybraní novináři si postupně mohli robotické auto vyzkoušet a byli vesměs fascinováni přesným řízením i tím, jak kompletní má auto přehled o svém okolí.

Jak robotické auto vidí svět?

Automaticky řízený automobil musí umět rozpoznávat statické i pohybující se předměty, odhadnout jejich dráhu, a vyhnout se tak potenciální kolizi. Na počítačových modelech jsou tyto predikce znázorněny kvádrovým prostorem, který je pro robotické auto v tu chvíli "tabu".

Jak automatické auto Google vidí svět.
Automaticky řízený automobil musí umět ropoznávat statické i pohybující se...

Jak automatické auto Google vidí svět.

Technicky je robotické "vidění" realizováno celou řadou senzorů, od kamer až po LIDAR - laserový radar. Samotný radar je nejdražší součástka v automatickém autě. Zvyšuje jeho cenu o 70 tisíc dolarů (přes 1,3 milionu korun). Celkově stojí vybavení, které dělá z obyčejné Toyoty Prius automatické Google auto, asi 150 tisíc dolarů (téměř tři miliony korun).

Kamery a další senzory hlídají okolí auta mnohem přesněji, než by to dokázal člověk. Umělá inteligence předvídá cokoliv, co by se v provozu mohlo přihodit, a reguluje rychlost i směr jízdy tak, aby auto neohrozilo a neomezilo ostatní účastníky provozu.

Legislativa aut bez řidičů

Když začínala na konci 19. století jezdit auta, musel je podle britského zákona z roku 1865 doprovázet člověk mávající varovným praporkem. Dnešní legislativa je k experimentům na ulici trochu příznivější.

Od března 2012 mohou auta bez řidiče legálně jezdit v Nevadě. Google tam získal první speciální SPZ pro svůj upravený Prius. Poznávací značka robotického auta je červená a obsahuje symbol ∞ (nekonečno).

Podle nevadské legislativy nemusí "řidič" v době, kdy auto řídí počítač, věnovat plnou pozornost provozu, ale nesmí například psát SMS.

Florida se omezila na zákonné vyjádření, že "nezakazuje experimenty s auty bez řidiče."

Kalifornie, která uzákonila auta bez řidiče v září 2012, přikazuje řidiči "stále sedět za volantem pro případ, že by robotické řízení selhalo a bylo třeba lidského řidiče," což samozřejmě omezuje výhody robotického řízení.

zdroj: Legislativa aut bez řidiče (Wikipedia.org)

Spolu s mechanicky precizním řízením to znamená ohromné zvýšení bezpečnosti, když ani po půl milionu najetých kilometrů robotické auto nenabouralo. Naopak, neustále přesvědčuje všechny, kdo si jej vyzkoušeli, o své dokonalé bezpečnosti.

A to je velký problém.

Lidé jako ostražití instruktoři?

Nikomu se zatím nepodařilo spolehlivě odpovědět na otázku, kdo bude zodpovědný za nehodu způsobenou automaticky řízeným autem. Zákony zatím počítají s plnou zodpovědností řidiče, který se musí "za všech okolností plně věnovat řízení", respektive být kdykoli připraven zasáhnout. Inteligentní auto je tak redukováno na jakýsi velmi sofistikovaný "posilovač řízení". Umožňuje nastavit některé parametry jízdy, ale řidič je i tak musí mít pod kontrolou.

Je však evidentní, že automatická auta si lidé nebudou pořizovat proto, aby čekali s rukama u volantu jako instruktor v autoškole. Řidiči budou chtít čas využít užitečněji a příjemněji: telefonovat, číst knihu, sledovat film nebo psát e-maily. A když se stane nehoda, co pak?

Řidič jako pasažér?

Další hypotetická možnost přirovnává inteligentní auto k taxikáři. Majitel mu řekne, kam chce dojet, a taxikář jej tam doveze. Za případnou nehodu plně zodpovídá taxikář. Pasažér (zákazník, majitel) si během jízdy pochopitelně může číst, telefonovat nebo spát. Při případné nehodě odpovídá za auto taxikář, a v některých případech může být dokonce i samotný zákazník v roli poškozeného.

Na první pohled zní tato možnost rozumně. Rozhodně nejlépe odpovídá sci-fi scénářům o inteligentních autopilotech. Jenže její trhliny jsou ohromné, a sahají nejen do oblasti ekonomie či práva, ale i filosofie a etiky.

  • Může být stroj či software právně zodpovědný?
  • Může být jeho tvůrce zodpovědný za jednotlivé případy použití stroje či softwaru?
  • Jaký je podíl zodpovědnosti jednotlivých lidí a firem, které se na vývoji podílely?
  • Může se firma z takové zodpovědnosti vyvázat smlouvou?
  • Jak zajistit, aby se lidská chyba nesvedla na stroj?
  • Jak zajistit, aby se chyba stroje nesvedla na člověka?
  • Může stroj udělat chybný úsudek, který není chybou těch, kdo ho ovládají nebo navrhují?
  • Lze odpovědnost stroje řešit speciálním pojištěním, ze kterého by se hradily veškeré náhrady škody?

V současné době se podobné otázky řeší obvykle občansko-právním smluvním ošetřením. Továrna, ve které pracují roboti vedle lidí, má vypracována bezpečnostní pravidla, kterými se zaměstnanci musejí řídit. V případě nehody se pak vyšetřuje, zda je na vině nedodržení postupů, chybně navržené postupy či chyba dodavatele stroje či softwaru.

Továrna je však relativně izolované prostředí, ve kterém lze většinu situací celkem přesně předvídat. Naopak reálný silniční provoz nabízí přehršel těžko očekávatelných situací, které se těžko přesně definují. Občas vyžadují kompromisní rozhodnutí: kde zaparkovat v případě nehody, jak přibrzdit před přechodem, když auto za námi nedodržuje bezpečnou vzdálenost nebo jak se zachovat v případě chybného značení nebo nepřesné mapy. Pokud bude počítač moci v takových situacích rozhodovat, musíme přijmout možnost, že se někdy rozhodně nešťastně. Nebo přinejmenším sporně.

Asimovovy zákony robotiky v praxi

Jako kdyby výše uvedené otázky nestačily, jsou tu další, ještě palčivější. Předpokládejme, že robotické auto se ocitne v situaci, kdy již nelze nehodě zabránit. Zato lze ovlivnit, jakým způsobem nehoda skončí. Strhnout volant doprava znamená pád ze svahu a jasné ohrožení zdraví pasažéra, ale nikdo další zřejmě zraněn nebude. Naopak účinné brzdění sice sníží sílu nárazu, ale pravděpodobně přijde o život řidič protijedoucího motocyklu, který ostatně nebezpečnou situaci pravděpodobně způsobil.

Asimovovy zákony robotiky

Každý fanoušek sci-fi zná způsob, jakým je robotická etika "vyřešená". Jsou jím tři zákony robotiky, kterými se musí umělá inteligence řídit.

  1. Robot nesmí ublížit člověku nebo svou nečinností dopustit, aby bylo člověku ublíženo.
  2. Robot musí poslechnout člověka, kromě případů, kdy je to v rozporu s prvním zákonem.
  3. Robot se musí chránit před poškozením, kromě případů, kdy je to v rozporu s prvním nebo druhým zákonem.

zdroj: česká Wikipedia

V tu chvíli už nedělá robot jen rozhodnutí pravděpodobnostní, ale především etické. Má na to vůbec právo? A kdo nastaví, jakým způsobem se má rozhodnout? Určí toto rozhodnutí výrobce? Nebo uživatel bude moci nastavit "morálku" svého auta podobně jako v Dračím doupěti, od zákonně dobré přes neutrální až po zákonně zlou?

Samozřejmě může auto za každou cenu chránit svého majitele a minimalizovat jeho škodu. To nejspíše nejlépe odpovídá tomu, jak řídí auto většina řidičů. Je však zřejmé, že existují situace, kdy by takové chování bylo přinejmenším pochybné. Představa chladnokrevného stroje, který přejede nepozorného chodce, protože úhybný manévr "by mohl ohrozit jeho majitele", se asi nikomu nelíbí.

Ale opačná představa je podobně děsivá. Auto by v takovém případě mělo za úkol předvídat a posoudit celkové ztráty na životech a majetku, a svými rozhodnutími je minimalizovat. A to "padni komu padni", tedy bez ohledu na to, zda tím zvýhodní majitele nebo někoho jiného. To je samozřejmě velmi šlechetné jednání, které tak nějak očekáváme například u profesionálních pilotů na leteckých přehlídkách. V případě nehody se často snaží odletět se strojem co nejdále od publika, i za cenu osobního ohrožení. Od počítače to však není nic šlechetného, je to prostá kalkulace. Kalkulace, která navíc snadno může být chybná.

Jak poznamenal náš kolega: "Nikdy bych si nekoupil auto, o kterém vím, že mě úmyslně zabije jenom proto, aby nenarazilo do mikrobusu."

Musíme připravit zákony pro počítačová rozhodnutí

Bylo by jednoduché zavrhnout tento problém jako podružný, nepodstatný a statisticky zanedbatelný. Je také pravda, že právní vakuum v tomto případě může i urychlit technologický vývoj, který je zatím téměř neregulovaný. Přesto je zřejmé, že počítače budou mít stále větší rozhodovací zodpovědnosti.

Firma IBM kupříkladu vyvíjí dr. Watsona. To je počítač, který bude pomáhat s určováním komplikované diagnózy u pacientů a dokonce bude doktorům (těm z masa a krve) doporučovat optimální léčebné postupy. Google každodenně vybírá z miliard stránek ty, podle kterých se lidé následně rozhodují, a algoritmus výběru je natolik komplexní, že často překvapí i své tvůrce. Nemluvě například o plánování tras v GPS.

Sergey Brin chválí Google auto bez řidiče

Když Kalifornie schválila robotická auta pro jízdu v běžném silničním provozu, ptali se novináři na řadu otázek ohledně případných nehod. Kdo by prý například zaplatil pokutu, když auto pojede na červenou? Guvernér Brown přiznal, že je potřeba to ještě vyřešit. Sergey Brin, spoluzakladatel Googlu, je obratně a šikovně odbyl bonmotem: "Robotická auta na červenou nejezdí."

Ano, zatím jsou robotická auta ukázněnými a navýsost spolehlivými řidiči. O to rychleji se rozšíří mezi širokou veřejnost. O to dříve se jimi lidé nechají vozit a pozornost budou věnovat všemu, jen ne řízení.

A tím dříve budeme potřebovat skutečné odpovědi, nikoli bonmoty. Zatím totiž i náctiletí fanoušci sci-fi vědí o robotické etice mnohem více, než ti, kteří o ní budou brzy rozhodovat.

Jak by se měla řešit nehoda auta, kterou zavinil počítačový řidič?

Robotická auta už mají naježděny statisíce kilometrů bez nehody. Co když ale nějakou nehodu způsobí? Jak by se na ni mělo pohlížet?
celkem hlasů: 2871

Hlasování skončilo

Čtenáři hlasovali do 0:00 čtvrtek 21. února 2013. Anketa je uzavřena.

Nelze-li určit lidského viníka, měla by být náhrada placena ze speciálního
Nelze-li určit lidského viníka, měla by být náhrada placena ze speciálního "pojištění" proti škodám způsobeným počítačem. 1911
Za nehodu by měl odpovídat výrobce software, které auto řídilo.
Za nehodu by měl odpovídat výrobce software, které auto řídilo. 448
Za nehodu by měl být vždy zodpovědný lidský řidič automobilu.
Za nehodu by měl být vždy zodpovědný lidský řidič automobilu. 218
Nevím, jak takovou situaci obecně řešit.
Nevím, jak takovou situaci obecně řešit. 200
Za nehodu by měl odpovídat výrobce auta.
Za nehodu by měl odpovídat výrobce auta. 61
Za nehodu by měl odpovídat počítač.
Za nehodu by měl odpovídat počítač. 33
Autor:
  • Nejčtenější

Kam pro filmy bez Ulož.to? Přinášíme další várku streamovacích služeb do TV

v diskusi je 125 příspěvků

26. března 2024

S vhodnou aplikací na vás mohou v televizoru na stisk tlačítka čekat tisíce filmů, seriálů nebo...

Z jaderné triády zbyly Britům už jen ponorky. A ty musejí posílit

v diskusi je 76 příspěvků

27. března 2024

Jadernou triádu tvoří strategické bombardéry s jadernými zbraněmi, mezikontinentální balistické...

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Hlučínsko patří nám. Před 100 lety byl podepsán definitivní protokol o hranici

v diskusi je 47 příspěvků

28. března 2024

Před 100 lety definitivně skončily tahanice o československo-německé hranice. 28. března 1924 byl...

Američané odepsali modul, který je vrátil po půl století na Měsíc

v diskusi je 22 příspěvků

28. března 2024,  aktualizováno  11:41

Od začátku letošního roku je na Měsíci a kolem něj poměrně rušno. Vedle řady sond, které zamířily...

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Podívejte se na Boeing C-17 Globemaster, který do Česka přivezl nové vrtulníky

v diskusi jsou 3 příspěvky

29. března 2024

V sobotu 23. března dosedl v Praze nákladní letoun USAF, který vezl obzvlášť cenný náklad. Z...

Za vyhynutím dinosaurům mohla být i doba temna

v diskusi nejsou příspěvky

29. března 2024

Dopad planetky je nyní většinou odborníků považován za hlavní příčinu vyhynutí zhruba 73 až 76 %...

Podívejte se na Boeing C-17 Globemaster, který do Česka přivezl nové vrtulníky

v diskusi jsou 3 příspěvky

29. března 2024

V sobotu 23. března dosedl v Praze nákladní letoun USAF, který vezl obzvlášť cenný náklad. Z...

Dočasná raketa se po téměř 70 letech loučí. Bude startovat naposledy

v diskusi je 5 příspěvků

28. března 2024  15:36,  aktualizováno  19:54

Tento čtvrtek stojí na startovací rampě mysu Canaveral poslední potomek raket Thor, nosič Delta IV...

Američané odepsali modul, který je vrátil po půl století na Měsíc

v diskusi je 22 příspěvků

28. března 2024,  aktualizováno  11:41

Od začátku letošního roku je na Měsíci a kolem něj poměrně rušno. Vedle řady sond, které zamířily...

Smoljak nechtěl Sobotu v Jáchymovi. Zničil jsi nám film, řekl mu

Příběh naivního vesnického mladíka Františka, který získá v Praze díky kondiciogramu nejen pracovní místo, ale i...

Rejžo, jdu do naha! Balzerová vzpomínala na nahou scénu v Zlatých úhořích

Eliška Balzerová (74) v 7 pádech Honzy Dědka přiznala, že dodnes neví, ve který den se narodila. Kromě toho, že...

Pliveme vám do piva. Centrum Málagy zaplavily nenávistné vzkazy turistům

Mezi turisticky oblíbené destinace se dlouhá léta řadí i španělská Málaga. Přístavní město na jihu země láká na...

Velikonoce 2024: Na Velký pátek bude otevřeno, v pondělí obchody zavřou

Otevírací doba v obchodech se řídí zákonem, který nařizuje, že obchody s plochou nad 200 čtverečních metrů musí mít...

Kam pro filmy bez Ulož.to? Přinášíme další várku streamovacích služeb do TV

S vhodnou aplikací na vás mohou v televizoru na stisk tlačítka čekat tisíce filmů, seriálů nebo divadelních...