Pro mě tank, pro ostatní Dušína. Vědci ukázali problém samořídících aut

aktualizováno 
Jak se má počítač rozhodnout v případě, že nelze zabránit ztrátám na životě? Vědci zkoumali vnímání klasického etického dilematu. První část výsledků je celkem očekávatelná: lidé chtějí, aby auta dělala etická rozhodnutí, pokud nejde o život zrovna jim. Důsledky tohoto měření jsou ale zajímavější.

Auta, která dokážou na silnici fungovat bez řidiče, se stávají realitou. Vozový park Google se rozšiřuje a na ulicích v Kalifornii už jsou autonomní auta pečená vařená - a zatím velmi bezpečná. Další firmy (např. Tesla, Volkswagen nebo Mercedes) jsou také aktivní a celkově to vypadá, že revoluce se v tomto případě odehraje mnohem rychleji, než jsme si před pěti lety mysleli.

Jenže auto plně ovládané umělou inteligencí s sebou přináší i řadu otázek právnických až filosofických: kdo může za to, když auto nabourá? A konkrétněji: jaké etické rozhodování bychom měli robotická auta „naučit“?

Počítač za volantem: zákony robotiky nebo sobectví?

Fotogalerie

Obecně se má za to - a dosavadní testy to potvrzují - že robotická auta výrazně sníží počet nehod na silnicích. Není těžké pochopit proč: lidé špatně odhadují vzdálenost, usínají za volantem, řídí opilí a zmatkují. Nic z toho od počítačů nečekáme.

Počítač je ale zcela racionální i v situaci, kdy lidský řidič reaguje zcela instinktivně. Před autem je z ničeho nic člověk, pokud se mu vyhnete, ohrožujete svůj vlastní život a život svých pasažérů. Nemáte šanci domyslet během půl sekundy všechny etické aspekty svého rozhodnutí. Počítač ale ano. Otázka zní, jak by takové rozhodnutí mělo vypadat.

„I kdyby se jednalo o naprosto neobvyklé situace, programátor stejně musí naprogramovat, jak se v takové situaci auto zachová,“ píše Jean-François Bonnefon a jeho kolegové. Ve svém výzkumu - publikovaném v prestižním vědeckém časopise Science - si dali za úkol zjistit, jak lidé očekávají, že by se autonomní auta měla rozhodovat v kritických situacích, kdy je téměř jisté, že někdo zemře.

Tři modelové situace: auto se musí rozhodnout mezi (A) najetím do skupiny...

Tři modelové situace: auto se musí rozhodnout mezi (A) najetím do skupiny chodců a najetím do jednoho chodce, (B) najetím do chodce nebo nárazem, který ohrozí pasažéra, a konečně (C) najetím do skupiny chodců nebo nárazem ohrožujícím pasažéra automobilu.

Asimovovy robotické zákony

Populární spisovatel sci-fi, Isaac Asimov, představil tři základní zákony, kterými by se měli řídit roboti:

  • ochránit člověka
  • ochránit majetek
  • ochránit sebe

Více o Asimovových zákonech v praxi

Obecně lze identifikovat dva principy, podle kterých se lze v takovém případě rozhodnout:

  • „utilitární“ princip většího dobra - podle tohoto mravního principu by měla být zvolena možnost, která vede k menšímu utrpení, zjednodušeně tedy ohrožení menšího počtu lidí. Tímto směrem uvažoval Asimov, když navrhl slavné tři zákony robotiky.
  • „sobecký“ princip ochrany sebe sama - druhý princip vychází z lidského pudu sebezáchovy a říká, že každý se snaží především zachránit sebe, a teprve potom se může ohlížet na ostatní

Výzkumníci předložili různé scénáře v šesti on-line studiích celkem 1 928 účastníkům. Výsledky lze shrnout do jednoduchého a nepříliš překvapivého závěru: „Lidé schvalovali naprogramování samořídících automobilů tak, aby automobil obětoval svého pasažéra, pokud tím může zachránit větší množství lidí. Účastníci by také chtěli, aby si takové auto kupovali ostatní lidé. Oni sami pro sebe by ale preferovali, kdyby jejich samořídící auto chránilo v kritickém okamžiku jejich život, nikoli životy ostatních.“

Jaká je nejlepší strategie prodeje?

Na tom, že lidé chtějí pro sebe něco jiného, než pro ostatní, není nakonec nic nového. Každý by chtěl, aby ostatní stáli poslušně ve frontě (dodržovali etickou normu), nicméně skoro každý by uvítal, pokud by mohl dlouhou frontu předběhnout (porušit etickou normu). Etika zná tento problém jako princip užitečnosti pro celek (anglicky: greater good, tedy větší dobro). Bonnefon a jeho kolegové ale ukázali, že v případě samořídících aut může tato přirozená lidská preference vést k zajímavému pragmatickému řešení.

Je možné, domnívají se na základě výzkumu vědci, že lidé si nebudou chtít kupovat auta, která by neměla za úkol jejich ochranu. Zatím jsme totiž zvyklí na to, že auto chrání především své pasažéry: bezpečnostní pásy, airbagy, deformační zóny, to vše má zvýšit bezpečnost lidí uvnitř auta. Zaplatit za auto, které by v případě volby zvolilo „morální variantu“ i na úkor svého majitele, to se řadě lidí příčí.

Auto, které by za každou cenu chránilo majitele, mělo 50 bodů oblíbenosti (medián hodnocení na škále 1 až 100), zatímco u auta, které by bylo naprogramováno „eticky“, klesla jeho oblíbenost na 19 bodů. Jinými slovy, přestože účastníci souhlasili, že etické auto je pro společnost lepší, raději by si koupili auto, které je bude jako tank chránit „hlava nehlava“.

„Na světě je řada příkladů, kdy všichni mají pokušení vézt se na obětavosti ostatních,“ připomínají autoři studie. „Obvyklým řešením je regulace, která vynutí chování, které vede k obecně prospěšnému výsledku.“ Ale jeden z šesti průzkumů, který vědci provedli, ukázal, že vynucení „etického algoritmu“ by mohlo znatelně snížit atraktivitu takových aut a tím i zpomalit jejich prodej.

Google auto

Auto vnímá svět jako velké množství objektů v prostoru. Každému objektu přiřadí rychlost, polohu a snaží se předvídat jeho další chování.

Méně prodaných samořídících aut by tak paradoxně znamenalo, že regulace, která měla zachránit více životů, jich tak nakonec více zmařila. Vědci odhadují, že samořídící auta zachrání mnohem více životů tím, že nahradí řidiče. Naprosto výjimečné situace, kdy auto musí volit mezi tím, koho zachrání, mají na celková čísla pramalý vliv. Ale naprogramovat auta ve stylu sebeobětavých Mirků Dušínů by znamenalo snížit jejich prodej a tím zvýšit nehodovost oproti stavu, kdy by více lidí koupilo samořídící (byť „sobecká“) auta.

Podobných paradoxů bude ve světě, kde počítače rozhodují, rozhodně více. „Najít způsob, jak naprogramovat etické samostatné stroje, je jedna z nejtrnitějších výzev ve zkoumání umělé inteligence,“ domnívají se vědci. „Naším výzkumem jsme chtěli ukázat na jeden ze způsobů, jak k této výzvě přistoupit a jak změřit očekávání lidí v této oblasti.“

Jak auto Google vidí svět:

Chtěli byste, aby samořídící auto v případě problémů ochránilo raději skupinu chodců než vás?

celkem hlasů: 3682

Hlasování skončilo

Čtenáři hlasovali do 0:00 2. července 2016. Anketa je uzavřena.

Ne 2733
Ano 628
Nevím 321
Autor:


Nejčtenější

Nelíbí se mi, kam se internet vydal, říká vynálezce WWW. Chce to změnit

Tim Berners-Lee představuje vizi nového, decentralizovaného internetu...

V roce 1990 spustil první webový server a odstartoval tak revoluci. Díky němu se internet rozšířil do celého světa, do...

Mučení a vraždu novináře prý nahrály hodinky Apple. Nejspíš to bylo jinak

Apple Watch 2

Údajná vražda opozičního saúdskoarabského novináře Džamála Chášakdžího na konzulátu v Turecku vyvolává mezinárodní...



Ve věku 65 let zemřel na rakovinu Paul Allen, s Gatesem založil Microsoft

Paul Allen na snímku z prosince 2017.

Ve věku 65 letech zemřel v pondělí spoluzakladatel firmy Microsoft Paul Allen. Miliardář, filantrop a hledač lodních...

Návrat „imperialistického brouka“? Výzkumný program USA vzbudil obavy

Program „Hmyzí spojenci“ má změnit škůdce v pomocníky v zemědělství.

Skupina vědců v časopise Science varuje před možným zneužitím amerického výzkumného programu, který vyvíjí zcela nový...

Grafika snů: podrobné srovnání RTX 2080 s GTX 1080Ti

Porovnání grafických karet s čipem Nvidia GeForce RTX 2080 a GTX 1080Ti (vpravo)

Porovnali jsme novou grafickou kartu RTX 2080 s předchozí špičkou GTX 1080Ti. Výsledky jsou zajímavé a ačkoli v mnoha...

Další z rubriky

Na papíře skvělá, v reálu však není autokamera A5 Pro WiFi žádná sláva

Kamera TrueCam A5 Pro Wifi

Nad počínáním některých řidičů zůstává rozum stát a záznam z palubní kamery může být rozhodujícím důkazem při...

Z historie Karosy: midibus na podvozku avie zabodoval na výstavě v Nice

V roce 1969 byl midibus Karosa A 30-D7 prezentován na mezinárodní autobusové...

Jedním z méně známých výrobků Karosy Vysoké Mýto je midibus postavený na podvozku později ikonické Avie A30. V roce...

Roboti nemají fantazii a bude těžké je to naučit, říká vědec z Uberu

Picbreeder.org je online projekt týmu profesora Stanleyho, který je založen na...

Profesor Kenneth O. Stanley pracuje ve výzkumném centru Uber AI Labs, ale jeho bádání nemá nic přímo společného s...

Advantage Consulting, s.r.o.
JUNIOR PHP PROGRAMÁTOR

Advantage Consulting, s.r.o.
Jihomoravský kraj
nabízený plat: 35 000 - 45 000 Kč



Najdete na iDNES.cz