Klávesové zkratky na tomto webu - základní­
Přeskočit hlavičku portálu


Pro mě tank, pro ostatní Dušína. Vědci ukázali problém samořídících aut

aktualizováno 
Jak se má počítač rozhodnout v případě, že nelze zabránit ztrátám na životě? Vědci zkoumali vnímání klasického etického dilematu. První část výsledků je celkem očekávatelná: lidé chtějí, aby auta dělala etická rozhodnutí, pokud nejde o život zrovna jim. Důsledky tohoto měření jsou ale zajímavější.

Auta, která dokážou na silnici fungovat bez řidiče, se stávají realitou. Vozový park Google se rozšiřuje a na ulicích v Kalifornii už jsou autonomní auta pečená vařená - a zatím velmi bezpečná. Další firmy (např. Tesla, Volkswagen nebo Mercedes) jsou také aktivní a celkově to vypadá, že revoluce se v tomto případě odehraje mnohem rychleji, než jsme si před pěti lety mysleli.

Jenže auto plně ovládané umělou inteligencí s sebou přináší i řadu otázek právnických až filosofických: kdo může za to, když auto nabourá? A konkrétněji: jaké etické rozhodování bychom měli robotická auta „naučit“?

Počítač za volantem: zákony robotiky nebo sobectví?

Fotogalerie

Obecně se má za to - a dosavadní testy to potvrzují - že robotická auta výrazně sníží počet nehod na silnicích. Není těžké pochopit proč: lidé špatně odhadují vzdálenost, usínají za volantem, řídí opilí a zmatkují. Nic z toho od počítačů nečekáme.

Počítač je ale zcela racionální i v situaci, kdy lidský řidič reaguje zcela instinktivně. Před autem je z ničeho nic člověk, pokud se mu vyhnete, ohrožujete svůj vlastní život a život svých pasažérů. Nemáte šanci domyslet během půl sekundy všechny etické aspekty svého rozhodnutí. Počítač ale ano. Otázka zní, jak by takové rozhodnutí mělo vypadat.

„I kdyby se jednalo o naprosto neobvyklé situace, programátor stejně musí naprogramovat, jak se v takové situaci auto zachová,“ píše Jean-François Bonnefon a jeho kolegové. Ve svém výzkumu - publikovaném v prestižním vědeckém časopise Science - si dali za úkol zjistit, jak lidé očekávají, že by se autonomní auta měla rozhodovat v kritických situacích, kdy je téměř jisté, že někdo zemře.

Tři modelové situace: auto se musí rozhodnout mezi (A) najetím do skupiny...

Tři modelové situace: auto se musí rozhodnout mezi (A) najetím do skupiny chodců a najetím do jednoho chodce, (B) najetím do chodce nebo nárazem, který ohrozí pasažéra, a konečně (C) najetím do skupiny chodců nebo nárazem ohrožujícím pasažéra automobilu.

Asimovovy robotické zákony

Populární spisovatel sci-fi, Isaac Asimov, představil tři základní zákony, kterými by se měli řídit roboti:

  • ochránit člověka
  • ochránit majetek
  • ochránit sebe

Více o Asimovových zákonech v praxi

Obecně lze identifikovat dva principy, podle kterých se lze v takovém případě rozhodnout:

  • „utilitární“ princip většího dobra - podle tohoto mravního principu by měla být zvolena možnost, která vede k menšímu utrpení, zjednodušeně tedy ohrožení menšího počtu lidí. Tímto směrem uvažoval Asimov, když navrhl slavné tři zákony robotiky.
  • „sobecký“ princip ochrany sebe sama - druhý princip vychází z lidského pudu sebezáchovy a říká, že každý se snaží především zachránit sebe, a teprve potom se může ohlížet na ostatní

Výzkumníci předložili různé scénáře v šesti on-line studiích celkem 1 928 účastníkům. Výsledky lze shrnout do jednoduchého a nepříliš překvapivého závěru: „Lidé schvalovali naprogramování samořídících automobilů tak, aby automobil obětoval svého pasažéra, pokud tím může zachránit větší množství lidí. Účastníci by také chtěli, aby si takové auto kupovali ostatní lidé. Oni sami pro sebe by ale preferovali, kdyby jejich samořídící auto chránilo v kritickém okamžiku jejich život, nikoli životy ostatních.“

Jaká je nejlepší strategie prodeje?

Na tom, že lidé chtějí pro sebe něco jiného, než pro ostatní, není nakonec nic nového. Každý by chtěl, aby ostatní stáli poslušně ve frontě (dodržovali etickou normu), nicméně skoro každý by uvítal, pokud by mohl dlouhou frontu předběhnout (porušit etickou normu). Etika zná tento problém jako princip užitečnosti pro celek (anglicky: greater good, tedy větší dobro). Bonnefon a jeho kolegové ale ukázali, že v případě samořídících aut může tato přirozená lidská preference vést k zajímavému pragmatickému řešení.

Je možné, domnívají se na základě výzkumu vědci, že lidé si nebudou chtít kupovat auta, která by neměla za úkol jejich ochranu. Zatím jsme totiž zvyklí na to, že auto chrání především své pasažéry: bezpečnostní pásy, airbagy, deformační zóny, to vše má zvýšit bezpečnost lidí uvnitř auta. Zaplatit za auto, které by v případě volby zvolilo „morální variantu“ i na úkor svého majitele, to se řadě lidí příčí.

Auto, které by za každou cenu chránilo majitele, mělo 50 bodů oblíbenosti (medián hodnocení na škále 1 až 100), zatímco u auta, které by bylo naprogramováno „eticky“, klesla jeho oblíbenost na 19 bodů. Jinými slovy, přestože účastníci souhlasili, že etické auto je pro společnost lepší, raději by si koupili auto, které je bude jako tank chránit „hlava nehlava“.

„Na světě je řada příkladů, kdy všichni mají pokušení vézt se na obětavosti ostatních,“ připomínají autoři studie. „Obvyklým řešením je regulace, která vynutí chování, které vede k obecně prospěšnému výsledku.“ Ale jeden z šesti průzkumů, který vědci provedli, ukázal, že vynucení „etického algoritmu“ by mohlo znatelně snížit atraktivitu takových aut a tím i zpomalit jejich prodej.

Google auto

Auto vnímá svět jako velké množství objektů v prostoru. Každému objektu přiřadí rychlost, polohu a snaží se předvídat jeho další chování.

Méně prodaných samořídících aut by tak paradoxně znamenalo, že regulace, která měla zachránit více životů, jich tak nakonec více zmařila. Vědci odhadují, že samořídící auta zachrání mnohem více životů tím, že nahradí řidiče. Naprosto výjimečné situace, kdy auto musí volit mezi tím, koho zachrání, mají na celková čísla pramalý vliv. Ale naprogramovat auta ve stylu sebeobětavých Mirků Dušínů by znamenalo snížit jejich prodej a tím zvýšit nehodovost oproti stavu, kdy by více lidí koupilo samořídící (byť „sobecká“) auta.

Podobných paradoxů bude ve světě, kde počítače rozhodují, rozhodně více. „Najít způsob, jak naprogramovat etické samostatné stroje, je jedna z nejtrnitějších výzev ve zkoumání umělé inteligence,“ domnívají se vědci. „Naším výzkumem jsme chtěli ukázat na jeden ze způsobů, jak k této výzvě přistoupit a jak změřit očekávání lidí v této oblasti.“

Jak auto Google vidí svět:

Chtěli byste, aby samořídící auto v případě problémů ochránilo raději skupinu chodců než vás?

celkem hlasů: 3682

Hlasování skončilo

Čtenáři hlasovali do 0:00 2. července 2016. Anketa je uzavřena.

Ne 2733
Ano 628
Nevím 321
Autor:


Nejčtenější

„Tak mě zastřel!“ vykřikl ruský voják a zavraždil šestnáctiletého kluka

Vražedná zbraň. Touto pistolí Stečkin APS zastřelil opilý ruský voják Rudněv v...

„Teď v Československu platí sovětské zákony,“ řekl ruský generál vyšetřovatel Veřejné bezpečnosti, když pátrali po...

Zabil je výbuch ruského tanku v centru Prahy. KSČ ničila životy pozůstalým

Tanky typové řady T-54/55, ten blíž k fotografovi evidentně neschopný pohybu,...

Zatímco na pražské Vinohradské třídě hořel a vybuchoval tank, zmatení ruští vojáci na Václavském náměstí zahájili palbu...



Tento pancíř dá tankistům pocit bezpečí a jistoty. Ale bude to stačit?

SMART PROTech na tanku Leopard 2

Německá firma IBD Deisenroth Engineering (IBD) představila prototyp balistické ochrany SMART PROTech pro obrněná...

Úspěšný start. Sonda míří ke Slunci tak blízko, jako žádná předtím

Úspěšný start rakety Delta IV Heavy 12.8.2018 v 9:31 se sondou Parker Solar...

V neděli ráno se ke Slunci vydala unikátní sonda Parker Solar Probe. Měla by se přiblížit k naší hvězdě podstatně blíže...

Sulfan jako lék? V lidských buňkách možná pomáhá zvrátit stárnutí

Klíč k procesu stárnutí tkví v DNA.

Tým vědců zkoumající jednu z příčin stárnutí oznámil úspěch, a to přímo na lidských buňkách v laboratorních podmínkách....

Další z rubriky

Švábi v křídle. Jak si Rolls-Royce představuje budoucnost letecké údržby

Pohled na laboratorní „šváby“, na jejichž vývoji pro firmu Rolls Royce pracuje...

Letecká výstava ve Farnborough je největší přehlídkou novinek v oboru. Společnosti si na ni schovávají velké věci,...

Lenovo uvedlo na trh chytrý reproduktor s velkým displejem

Předprodukční vzorek Lenovo Smart Display v salonku Lenova na CES 2018 v Las...

Jmenuje se Smart Display a je to vlastně kombinace chytrého reproduktoru a rozměrného displeje, ve kterém úřaduje...

Má hořet půl století jako františek. Jaký reaktor si přeje Bill Gates

Schéma reaktoru TWR-P s tepelným výkonem 600 MW, který by TerraPower měla...

Společnost TerraPower, v jejíž správní radě sedí zakladatel Microsoftu, se konečně přiblížila možnosti stavby reaktoru,...

Najdete na iDNES.cz