Auta, která dokážou na silnici fungovat bez řidiče, se stávají realitou. Vozový park Google se rozšiřuje a na ulicích v Kalifornii už jsou autonomní auta pečená vařená - a zatím velmi bezpečná. Další firmy (např. Tesla, Volkswagen nebo Mercedes) jsou také aktivní a celkově to vypadá, že revoluce se v tomto případě odehraje mnohem rychleji, než jsme si před pěti lety mysleli.
Jenže auto plně ovládané umělou inteligencí s sebou přináší i řadu otázek právnických až filosofických: kdo může za to, když auto nabourá? A konkrétněji: jaké etické rozhodování bychom měli robotická auta „naučit“?
Počítač za volantem: zákony robotiky nebo sobectví?
Obecně se má za to - a dosavadní testy to potvrzují - že robotická auta výrazně sníží počet nehod na silnicích. Není těžké pochopit proč: lidé špatně odhadují vzdálenost, usínají za volantem, řídí opilí a zmatkují. Nic z toho od počítačů nečekáme.
Počítač je ale zcela racionální i v situaci, kdy lidský řidič reaguje zcela instinktivně. Před autem je z ničeho nic člověk, pokud se mu vyhnete, ohrožujete svůj vlastní život a život svých pasažérů. Nemáte šanci domyslet během půl sekundy všechny etické aspekty svého rozhodnutí. Počítač ale ano. Otázka zní, jak by takové rozhodnutí mělo vypadat.
„I kdyby se jednalo o naprosto neobvyklé situace, programátor stejně musí naprogramovat, jak se v takové situaci auto zachová,“ píše Jean-François Bonnefon a jeho kolegové. Ve svém výzkumu - publikovaném v prestižním vědeckém časopise Science - si dali za úkol zjistit, jak lidé očekávají, že by se autonomní auta měla rozhodovat v kritických situacích, kdy je téměř jisté, že někdo zemře.
Tři modelové situace: auto se musí rozhodnout mezi (A) najetím do skupiny chodců a najetím do jednoho chodce, (B) najetím do chodce nebo nárazem, který ohrozí pasažéra, a konečně (C) najetím do skupiny chodců nebo nárazem ohrožujícím pasažéra automobilu.
Asimovovy robotické zákony Populární spisovatel sci-fi, Isaac Asimov, představil tři základní zákony, kterými by se měli řídit roboti:
Více o Asimovových zákonech v praxi |
Obecně lze identifikovat dva principy, podle kterých se lze v takovém případě rozhodnout:
- „utilitární“ princip většího dobra - podle tohoto mravního principu by měla být zvolena možnost, která vede k menšímu utrpení, zjednodušeně tedy ohrožení menšího počtu lidí. Tímto směrem uvažoval Asimov, když navrhl slavné tři zákony robotiky.
- „sobecký“ princip ochrany sebe sama - druhý princip vychází z lidského pudu sebezáchovy a říká, že každý se snaží především zachránit sebe, a teprve potom se může ohlížet na ostatní
Výzkumníci předložili různé scénáře v šesti on-line studiích celkem 1 928 účastníkům. Výsledky lze shrnout do jednoduchého a nepříliš překvapivého závěru: „Lidé schvalovali naprogramování samořídících automobilů tak, aby automobil obětoval svého pasažéra, pokud tím může zachránit větší množství lidí. Účastníci by také chtěli, aby si takové auto kupovali ostatní lidé. Oni sami pro sebe by ale preferovali, kdyby jejich samořídící auto chránilo v kritickém okamžiku jejich život, nikoli životy ostatních.“
Jaká je nejlepší strategie prodeje?
Na tom, že lidé chtějí pro sebe něco jiného, než pro ostatní, není nakonec nic nového. Každý by chtěl, aby ostatní stáli poslušně ve frontě (dodržovali etickou normu), nicméně skoro každý by uvítal, pokud by mohl dlouhou frontu předběhnout (porušit etickou normu). Etika zná tento problém jako princip užitečnosti pro celek (anglicky: greater good, tedy větší dobro). Bonnefon a jeho kolegové ale ukázali, že v případě samořídících aut může tato přirozená lidská preference vést k zajímavému pragmatickému řešení.
Je možné, domnívají se na základě výzkumu vědci, že lidé si nebudou chtít kupovat auta, která by neměla za úkol jejich ochranu. Zatím jsme totiž zvyklí na to, že auto chrání především své pasažéry: bezpečnostní pásy, airbagy, deformační zóny, to vše má zvýšit bezpečnost lidí uvnitř auta. Zaplatit za auto, které by v případě volby zvolilo „morální variantu“ i na úkor svého majitele, to se řadě lidí příčí.
Auto, které by za každou cenu chránilo majitele, mělo 50 bodů oblíbenosti (medián hodnocení na škále 1 až 100), zatímco u auta, které by bylo naprogramováno „eticky“, klesla jeho oblíbenost na 19 bodů. Jinými slovy, přestože účastníci souhlasili, že etické auto je pro společnost lepší, raději by si koupili auto, které je bude jako tank chránit „hlava nehlava“.
„Na světě je řada příkladů, kdy všichni mají pokušení vézt se na obětavosti ostatních,“ připomínají autoři studie. „Obvyklým řešením je regulace, která vynutí chování, které vede k obecně prospěšnému výsledku.“ Ale jeden z šesti průzkumů, který vědci provedli, ukázal, že vynucení „etického algoritmu“ by mohlo znatelně snížit atraktivitu takových aut a tím i zpomalit jejich prodej.
Auto vnímá svět jako velké množství objektů v prostoru. Každému objektu přiřadí rychlost, polohu a snaží se předvídat jeho další chování.
Méně prodaných samořídících aut by tak paradoxně znamenalo, že regulace, která měla zachránit více životů, jich tak nakonec více zmařila. Vědci odhadují, že samořídící auta zachrání mnohem více životů tím, že nahradí řidiče. Naprosto výjimečné situace, kdy auto musí volit mezi tím, koho zachrání, mají na celková čísla pramalý vliv. Ale naprogramovat auta ve stylu sebeobětavých Mirků Dušínů by znamenalo snížit jejich prodej a tím zvýšit nehodovost oproti stavu, kdy by více lidí koupilo samořídící (byť „sobecká“) auta.
Podobných paradoxů bude ve světě, kde počítače rozhodují, rozhodně více. „Najít způsob, jak naprogramovat etické samostatné stroje, je jedna z nejtrnitějších výzev ve zkoumání umělé inteligence,“ domnívají se vědci. „Naším výzkumem jsme chtěli ukázat na jeden ze způsobů, jak k této výzvě přistoupit a jak změřit očekávání lidí v této oblasti.“
Jak auto Google vidí svět:
Chtěli byste, aby samořídící auto v případě problémů ochránilo raději skupinu chodců než vás?
Hlasování skončilo
Čtenáři hlasovali do 0:00 sobota 2. července 2016. Anketa je uzavřena.
