Záhada: Roboti řídí lépe než lidé. Ale kdo může za to, když nabourají?

Sci-fi se přiblížilo rychleji, než mnozí čekali. Autonomní robotická auta společnosti Google už jezdí v plném provozu a na trh by mohla přijít už za pět let. Zákony ovšem nejsou připraveny na nehody, které zavinila umělá inteligence. Je majitel robotického auta viník nehody, nebo její oběť?

Google auto umí jezdit bez řidiče v běžném provozu. | foto: Profimedia.cz

Na podzim 2010 se svět dozvěděl, že programátoři a inženýři zdolali další milník umělé inteligence. Speciálně upravené auto společnosti Google dokáže jezdit bez zásahu řidiče v plném provozu. Krátce nato americký stát Nevada přítomnost "automatizovaných aut" (self-driving cars) posvětil zákonem, jako další následovala Kalifornie.

Robotická auta by se mohla prodávat už za pět let. Pokud to umožní legislativa.

Google předpokládá, že auta bez řidičů by se mohla na trhu objevit už za tři až pět let. "Zatím není jisté, v jaké formě tento produkt uvolníme," uvedl pro Washington Post projektový manažer Googlu Anthony Levandowski. Google zřejmě bude dodávat technologii pro auta bez řidiče výrobcům automobilů. Brzdou by se mohla stát legislativa, která zatím na prodej robotických aut není připravena.

Prototypy Google aut zatím najezdily bez řidiče více než půl milionu kilometrů v reálném provozu, a to bez jediné nehody. Vybraní novináři si postupně mohli robotické auto vyzkoušet a byli vesměs fascinováni přesným řízením i tím, jak kompletní má auto přehled o svém okolí.

Jak robotické auto vidí svět?

Automaticky řízený automobil musí umět rozpoznávat statické i pohybující se předměty, odhadnout jejich dráhu, a vyhnout se tak potenciální kolizi. Na počítačových modelech jsou tyto predikce znázorněny kvádrovým prostorem, který je pro robotické auto v tu chvíli "tabu".

Jak automatické auto Google vidí svět.
Automaticky řízený automobil musí umět ropoznávat statické i pohybující se...

Jak automatické auto Google vidí svět.

Technicky je robotické "vidění" realizováno celou řadou senzorů, od kamer až po LIDAR - laserový radar. Samotný radar je nejdražší součástka v automatickém autě. Zvyšuje jeho cenu o 70 tisíc dolarů (přes 1,3 milionu korun). Celkově stojí vybavení, které dělá z obyčejné Toyoty Prius automatické Google auto, asi 150 tisíc dolarů (téměř tři miliony korun).

Kamery a další senzory hlídají okolí auta mnohem přesněji, než by to dokázal člověk. Umělá inteligence předvídá cokoliv, co by se v provozu mohlo přihodit, a reguluje rychlost i směr jízdy tak, aby auto neohrozilo a neomezilo ostatní účastníky provozu.

Legislativa aut bez řidičů

Když začínala na konci 19. století jezdit auta, musel je podle britského zákona z roku 1865 doprovázet člověk mávající varovným praporkem. Dnešní legislativa je k experimentům na ulici trochu příznivější.

Od března 2012 mohou auta bez řidiče legálně jezdit v Nevadě. Google tam získal první speciální SPZ pro svůj upravený Prius. Poznávací značka robotického auta je červená a obsahuje symbol ∞ (nekonečno).

Podle nevadské legislativy nemusí "řidič" v době, kdy auto řídí počítač, věnovat plnou pozornost provozu, ale nesmí například psát SMS.

Florida se omezila na zákonné vyjádření, že "nezakazuje experimenty s auty bez řidiče."

Kalifornie, která uzákonila auta bez řidiče v září 2012, přikazuje řidiči "stále sedět za volantem pro případ, že by robotické řízení selhalo a bylo třeba lidského řidiče," což samozřejmě omezuje výhody robotického řízení.

zdroj: Legislativa aut bez řidiče (Wikipedia.org)

Spolu s mechanicky precizním řízením to znamená ohromné zvýšení bezpečnosti, když ani po půl milionu najetých kilometrů robotické auto nenabouralo. Naopak, neustále přesvědčuje všechny, kdo si jej vyzkoušeli, o své dokonalé bezpečnosti.

A to je velký problém.

Lidé jako ostražití instruktoři?

Nikomu se zatím nepodařilo spolehlivě odpovědět na otázku, kdo bude zodpovědný za nehodu způsobenou automaticky řízeným autem. Zákony zatím počítají s plnou zodpovědností řidiče, který se musí "za všech okolností plně věnovat řízení", respektive být kdykoli připraven zasáhnout. Inteligentní auto je tak redukováno na jakýsi velmi sofistikovaný "posilovač řízení". Umožňuje nastavit některé parametry jízdy, ale řidič je i tak musí mít pod kontrolou.

Je však evidentní, že automatická auta si lidé nebudou pořizovat proto, aby čekali s rukama u volantu jako instruktor v autoškole. Řidiči budou chtít čas využít užitečněji a příjemněji: telefonovat, číst knihu, sledovat film nebo psát e-maily. A když se stane nehoda, co pak?

Řidič jako pasažér?

Další hypotetická možnost přirovnává inteligentní auto k taxikáři. Majitel mu řekne, kam chce dojet, a taxikář jej tam doveze. Za případnou nehodu plně zodpovídá taxikář. Pasažér (zákazník, majitel) si během jízdy pochopitelně může číst, telefonovat nebo spát. Při případné nehodě odpovídá za auto taxikář, a v některých případech může být dokonce i samotný zákazník v roli poškozeného.

Na první pohled zní tato možnost rozumně. Rozhodně nejlépe odpovídá sci-fi scénářům o inteligentních autopilotech. Jenže její trhliny jsou ohromné, a sahají nejen do oblasti ekonomie či práva, ale i filosofie a etiky.

  • Může být stroj či software právně zodpovědný?
  • Může být jeho tvůrce zodpovědný za jednotlivé případy použití stroje či softwaru?
  • Jaký je podíl zodpovědnosti jednotlivých lidí a firem, které se na vývoji podílely?
  • Může se firma z takové zodpovědnosti vyvázat smlouvou?
  • Jak zajistit, aby se lidská chyba nesvedla na stroj?
  • Jak zajistit, aby se chyba stroje nesvedla na člověka?
  • Může stroj udělat chybný úsudek, který není chybou těch, kdo ho ovládají nebo navrhují?
  • Lze odpovědnost stroje řešit speciálním pojištěním, ze kterého by se hradily veškeré náhrady škody?

V současné době se podobné otázky řeší obvykle občansko-právním smluvním ošetřením. Továrna, ve které pracují roboti vedle lidí, má vypracována bezpečnostní pravidla, kterými se zaměstnanci musejí řídit. V případě nehody se pak vyšetřuje, zda je na vině nedodržení postupů, chybně navržené postupy či chyba dodavatele stroje či softwaru.

Továrna je však relativně izolované prostředí, ve kterém lze většinu situací celkem přesně předvídat. Naopak reálný silniční provoz nabízí přehršel těžko očekávatelných situací, které se těžko přesně definují. Občas vyžadují kompromisní rozhodnutí: kde zaparkovat v případě nehody, jak přibrzdit před přechodem, když auto za námi nedodržuje bezpečnou vzdálenost nebo jak se zachovat v případě chybného značení nebo nepřesné mapy. Pokud bude počítač moci v takových situacích rozhodovat, musíme přijmout možnost, že se někdy rozhodně nešťastně. Nebo přinejmenším sporně.

Asimovovy zákony robotiky v praxi

Jako kdyby výše uvedené otázky nestačily, jsou tu další, ještě palčivější. Předpokládejme, že robotické auto se ocitne v situaci, kdy již nelze nehodě zabránit. Zato lze ovlivnit, jakým způsobem nehoda skončí. Strhnout volant doprava znamená pád ze svahu a jasné ohrožení zdraví pasažéra, ale nikdo další zřejmě zraněn nebude. Naopak účinné brzdění sice sníží sílu nárazu, ale pravděpodobně přijde o život řidič protijedoucího motocyklu, který ostatně nebezpečnou situaci pravděpodobně způsobil.

Asimovovy zákony robotiky

Každý fanoušek sci-fi zná způsob, jakým je robotická etika "vyřešená". Jsou jím tři zákony robotiky, kterými se musí umělá inteligence řídit.

  1. Robot nesmí ublížit člověku nebo svou nečinností dopustit, aby bylo člověku ublíženo.
  2. Robot musí poslechnout člověka, kromě případů, kdy je to v rozporu s prvním zákonem.
  3. Robot se musí chránit před poškozením, kromě případů, kdy je to v rozporu s prvním nebo druhým zákonem.

zdroj: česká Wikipedia

V tu chvíli už nedělá robot jen rozhodnutí pravděpodobnostní, ale především etické. Má na to vůbec právo? A kdo nastaví, jakým způsobem se má rozhodnout? Určí toto rozhodnutí výrobce? Nebo uživatel bude moci nastavit "morálku" svého auta podobně jako v Dračím doupěti, od zákonně dobré přes neutrální až po zákonně zlou?

Samozřejmě může auto za každou cenu chránit svého majitele a minimalizovat jeho škodu. To nejspíše nejlépe odpovídá tomu, jak řídí auto většina řidičů. Je však zřejmé, že existují situace, kdy by takové chování bylo přinejmenším pochybné. Představa chladnokrevného stroje, který přejede nepozorného chodce, protože úhybný manévr "by mohl ohrozit jeho majitele", se asi nikomu nelíbí.

Ale opačná představa je podobně děsivá. Auto by v takovém případě mělo za úkol předvídat a posoudit celkové ztráty na životech a majetku, a svými rozhodnutími je minimalizovat. A to "padni komu padni", tedy bez ohledu na to, zda tím zvýhodní majitele nebo někoho jiného. To je samozřejmě velmi šlechetné jednání, které tak nějak očekáváme například u profesionálních pilotů na leteckých přehlídkách. V případě nehody se často snaží odletět se strojem co nejdále od publika, i za cenu osobního ohrožení. Od počítače to však není nic šlechetného, je to prostá kalkulace. Kalkulace, která navíc snadno může být chybná.

Jak poznamenal náš kolega: "Nikdy bych si nekoupil auto, o kterém vím, že mě úmyslně zabije jenom proto, aby nenarazilo do mikrobusu."

Musíme připravit zákony pro počítačová rozhodnutí

Bylo by jednoduché zavrhnout tento problém jako podružný, nepodstatný a statisticky zanedbatelný. Je také pravda, že právní vakuum v tomto případě může i urychlit technologický vývoj, který je zatím téměř neregulovaný. Přesto je zřejmé, že počítače budou mít stále větší rozhodovací zodpovědnosti.

Firma IBM kupříkladu vyvíjí dr. Watsona. To je počítač, který bude pomáhat s určováním komplikované diagnózy u pacientů a dokonce bude doktorům (těm z masa a krve) doporučovat optimální léčebné postupy. Google každodenně vybírá z miliard stránek ty, podle kterých se lidé následně rozhodují, a algoritmus výběru je natolik komplexní, že často překvapí i své tvůrce. Nemluvě například o plánování tras v GPS.

Sergey Brin chválí Google auto bez řidiče

Když Kalifornie schválila robotická auta pro jízdu v běžném silničním provozu, ptali se novináři na řadu otázek ohledně případných nehod. Kdo by prý například zaplatil pokutu, když auto pojede na červenou? Guvernér Brown přiznal, že je potřeba to ještě vyřešit. Sergey Brin, spoluzakladatel Googlu, je obratně a šikovně odbyl bonmotem: "Robotická auta na červenou nejezdí."

Ano, zatím jsou robotická auta ukázněnými a navýsost spolehlivými řidiči. O to rychleji se rozšíří mezi širokou veřejnost. O to dříve se jimi lidé nechají vozit a pozornost budou věnovat všemu, jen ne řízení.

A tím dříve budeme potřebovat skutečné odpovědi, nikoli bonmoty. Zatím totiž i náctiletí fanoušci sci-fi vědí o robotické etice mnohem více, než ti, kteří o ní budou brzy rozhodovat.

Jak by se měla řešit nehoda auta, kterou zavinil počítačový řidič?

Robotická auta už mají naježděny statisíce kilometrů bez nehody. Co když ale nějakou nehodu způsobí? Jak by se na ni mělo pohlížet?
celkem hlasů: 2871

Hlasování skončilo

Čtenáři hlasovali do 0:00 čtvrtek 21. února 2013. Anketa je uzavřena.

Nelze-li určit lidského viníka, měla by být náhrada placena ze speciálního
Nelze-li určit lidského viníka, měla by být náhrada placena ze speciálního "pojištění" proti škodám způsobeným počítačem. 1911
Za nehodu by měl odpovídat výrobce software, které auto řídilo.
Za nehodu by měl odpovídat výrobce software, které auto řídilo. 448
Za nehodu by měl být vždy zodpovědný lidský řidič automobilu.
Za nehodu by měl být vždy zodpovědný lidský řidič automobilu. 218
Nevím, jak takovou situaci obecně řešit.
Nevím, jak takovou situaci obecně řešit. 200
Za nehodu by měl odpovídat výrobce auta.
Za nehodu by měl odpovídat výrobce auta. 61
Za nehodu by měl odpovídat počítač.
Za nehodu by měl odpovídat počítač. 33
Autor:
  • Nejčtenější

Vyzkoušeli jsme podvod z Aliexpressu. Může vás přijít draho, i po letech

v diskusi je 110 příspěvků

14. března 2024

Nakoupili jsme na Aliexpressu a pěkně se spálili. Jednu USB paměť, dvě externí SSD a jeden externí...

Nejsilnější raketa úspěšně prošla prvním testovacím letem do vesmíru

v diskusi je 138 příspěvků

14. března 2024  12:12,  aktualizováno  15:31

Společnost SpaceX poprvé dostala svůj Starship do vesmírného prostoru. Po dvou předchozích...

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Svět uznal nároky Beneše. Československo vyhrálo spor s Polskem o Javorinu

v diskusi je 42 příspěvků

12. března 2024

Před 100 lety se Československo dočkalo mezinárodního uznání ve sporu s Polskem o Javorinu....

Tato novinka ve vyhledávání Googlu lidi pěkně vytáčí. Máme řešení

v diskusi je 153 příspěvků

12. března 2024  10:45

Jedna z novinek, kterou přineslo evropské Nařízení o digitálních trzích, je změna v tom, jak Google...

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Polopás není polovičaté řešení. Třetí říše byla mistrem v oboru

v diskusi je 9 příspěvků

18. března 2024

Druhá světová válka byla zlatým věkem polopásových vozidel. Vyráběli je především Němci a...

VIDEO: Střílej po mně! Kameraman natočil téměř celý útok v centru Prahy

Premium Ve čtvrtek zemřelo rukou střelce Davida K. 14 obětí, 25 lidí je zraněných, z toho deset lidí těžce. Jedním z prvních na...

Máma ji dala do pasťáku, je na pervitinu a šlape. Elišku čekají Vánoce na ulici

Premium Noční Smíchov. Na zádech růžový batoh, v ruce svítící balónek, vánoční LED svíčky na baterky kolem krku. Vypadá na...

Test světlých lahvových ležáků: I dobré pivo zestárne v obchodě mnohem rychleji

Premium Ležáky z hypermarketů zklamaly. Jestli si chcete pochutnat, běžte do hospody. Sudová piva totiž dopadla před časem...

Kuličková myš, VHS a další technologické skvosty nedávné minulosti

v diskusi je 7 příspěvků

19. března 2024

S některými bylo možné se běžně setkat ještě před deseti lety, jiné je možné koupit a používat...

Od Amazonu po Voyo. Velký test streamovacích služeb našel obří rozdíly

v diskusi je 9 příspěvků

19. března 2024

Premium V jedné můžete vybírat z dvou set filmů a seriálů, ve druhé z osmi tisíc. V jedné je speciální...

Zemřel astronaut Stafford, který si ve vesmíru „podal“ ruku s Leonovem

v diskusi nejsou příspěvky

18. března 2024  19:10

Ve věku 93 let po dlouhé nemoci zemřel někdejší astronaut Thomas Stafford, který byl zapojený do...

Apple přidá do svých zařízení generativní AI, využije k tomu Google

v diskusi nejsou příspěvky

18. března 2024  13:34

Apple jako jedna z mála technologických společností nezachytil příchod vlny generativní umělé...

Dětský šampon, který neštípe v očích: Přečtěte si!
Dětský šampon, který neštípe v očích: Přečtěte si!

40 uživatelů eMimina se pustilo do testování jemného šamponu KIND od značky Mádara, který je vhodný pro miminka už od prvních dnů. Jak si šampon...

Nutný výchovný pohlavek, souhlasí Bouček i Havlová s přerušením projevu na Lvu

Moderátor Libor Bouček ostře zareagoval na kauzu ohledně délky proslovu režisérky Darji Kaščejevové na předávání cen...

Švábi, vši a nevychované děti. Výměna manželek skončila už po pěti dnech

Nová Výměna manželek trvala jen pět dní, přesto přinesla spoustu vyhrocených situací. Martina ze Znojma se pokoušela...

Vyzkoušeli jsme podvod z Aliexpressu. Může vás přijít draho, i po letech

Nakoupili jsme na Aliexpressu a pěkně se spálili. Jednu USB paměť, dvě externí SSD a jeden externí HDD. Ve třech...

Chtěli, abych se vyspala s Baldwinem kvůli jeho výkonu, říká Sharon Stone

Herečka Sharon Stone (66) jmenovala producenta, který jí řekl, aby se vyspala s hercem Williamem Baldwinem (61). Měla...

Konec nadvlády programátorů. Pozic ubývá, na jednu se hlásí stále víc lidí

Premium Ochota firem splnit uchazečům skoro jakýkoli požadavek a velmi nízká konkurence. Tak by se ještě nedávno dala definovat...