Samořídící Uber měl 6 sekund na to, aby zabránil smrtelné nehodě. Nesměl

  20:50aktualizováno  20:50
Tragická březnová nehoda, při které autonomní auto společnosti Uber zabilo chodkyni, byla výsledkem naprostého selhání bezpečnostních mechanismů. Auto mělo k dispozici dostatek času i informací na to, aby nehodě zabránilo. Uber ale vypnul některé bezpečnostní prvky a přispěl tak ke smrtelné nehodě.

„Šest sekund před nárazem zaznamenal radar vozidla neznámý objekt. Řídící systém nejprve tento objekt identifikoval jako neznámý objekt, pak jako vozidlo a pak jako cyklistu,“ píše se v předběžné zprávě, kterou zveřejnila americká agentura NTSB (PDF). „V čase 1,3 sekundy před nárazem vydal samořídící systém pokyn k okamžitému nouzovému brzdění.“

K nehodě došlo na neosvětleném úseku silnice

K nehodě došlo na neosvětleném úseku silnice

Ale pokyn k brzdnému manévru vydán nebyl. Společnost Uber tento typ manévru zakázala, aby „se vozidlo nechovalo nepředvídatelně.“ Zpráva ukazuje i na řadu dalších kroků společnosti Uber, které společně vedly k tomu, že samořídící vozidlo Uber dne 18. března, ve 21:58, způsobilo nehodu, která vejde do dějin jako první smrtelná nehoda samořídícího vozidla.

Osm let a miliony kilometrů bez vážné nehody...

Když se v roce 2010 svět dozvěděl, že společnost Google testuje autonomní auta bez řidičů, byla to zpráva úžasná a znepokojující zároveň. Co se stane, až automobil řízení nikoli člověkem, ale počítačem, někoho zabije? Zdálo se však, že vše jde jako po másle. Google hlásil miliony ujetých kilometrů a jen jednotky drobných nehod, které navíc způsobili lidé, nikoli samořídící systémy. Etické, technické i filosofické otázky se tak řešily spíše v teoretické rovině.

Fotogalerie

Až do března 2018, kdy testovací samořídící auto firmy Uber porazilo chodkyni v arizonském městě Tempe a ta po převozu do nemocnice svým zraněním podlehla.

Přestože první zveřejněné video podle policie ukazovalo, že pro lidského řidiče - i kdyby dával bedlivý pozor - by bylo nesmírně obtížné takové nehodě zabránit, mnohým takové ubezpečení nestačilo.

Jistě, řidič by měl problém zabránit srážce s chodcem, který v tmavém oblečení a ve tmě přechází silnici na neosvětleném místě. Ale samořídící auto není řidič. Samořídící auto mělo nehodě zabránit. A, jak se ukazuje, mohlo.

Auto Uber mělo takové nehodě bez problémů zabránit

Jak poznamenala už bezprostředně po nehodě redaktorka magazínu Wired: Na videu z nehody auta Uber je vidět přesně taková situace, na kterou jsou samořídící auta stavěná. S tím souhlasí i Steven Shladover, výzkumník z UC Berkeley: „Myslím, že senzory auta měly chodkyni zaznamenat s předstihem. Kdyby se pohybovala nepředvídatelně, tak by to mohl být problém, nic takového ale záznamy neukazují.“

Video z nehody totiž ukazuje jen pohled jedné kamery, té, která ukazuje to, co by přibližně viděl řidič. Auto ale vyhodnocuje informace nejen z této kamery, ale z celé řady dalších senzorů:

  • 360° radar zabírá scénu kolem celého vozidla
  • Lidar umí vyhodnotit vzdálenost objektů i ve tmě
  • 7 kamer zabírá to, co je před vozidlem i kolem vozidla (vlevo a vpravo)
  • 3 doplňkové kamery slouží pro vyhodnocování testovací jízdy
Samořídící auto Uber je vybaveno celou řadou pokročilých senzorů, včetně...

Samořídící auto Uber je vybaveno celou řadou pokročilých senzorů, včetně 360stupňového radaru, laseru a sedmi kamer

Samořídící auto musí být posuzováno podle jiných kritérií, než lidský řidič

Posuzovat nehodu „z pohledu řidiče“ je sice na první pohled logické, u samořídícího auta tohoto typu to ale nedává smysl. Způsob vnímání je jiný a jiná jsou i očekávání. Zatímco pro člověka, který by ve spěchu popletl násobení dvouciferných čísel, bychom měli pochopení, kalkulačku, která by se dopustila stejné chyby, bychom odmitli jako špatně naprogramovanou.

Podle předběžné zprávy Národního úřadu pro bezpečnost v dopravě (NTSB) to vypadá, že „kalkulačka“ v samořídícím autě Uber byla nejenom špatně naprogramovaná, ale i špatně a nelogicky nastavená.

Programátoři vypnuli bezpečnostní mechanismy

Vozidlo Volvo XC90, které Uber využívá k testování svého samořídícího systému, je samo o sobě vybaveno několika bezpečnostními mechanismy (tzv. City Safety). Ty jsou schopny detekovat hrozící kolizi a pokusit se jí zabránit. Všechny tyto funkce jsou ale vypnuty ve chvíli, kdy je auto v autonomním režimu.

Podle Uberu závisel systém na „pozorném operátorovi“

Společnost Uber uvedla, že jejich systém spoléhá na „pozorného operátora“. Ten má za úkol sledovat situaci a zasáhnout v případě, kdy samořídící systém selže.

Jak už zaznělo v úvodní citaci, společnost Uber vypnula i své vlastní bezpečnostní mechanismy, například nouzové brzdění. Výsledkem bylo, že samořídící auto vidělo překážku a vědělo, že má brzdit. Nic ale neudělalo.

Popis nehody, ke které nemuselo dojít

V čase nehody jelo auto Uber rychlostí 69 km/h, tedy mírně pomaleji, než byl rychlostní limit v dané oblasti. Radar i Lidar zaznamenaly chodkyni (zatím jako neznámý objekt) s předstihem 6 sekund, tedy ze vzdálenosti 115 metrů.

Jak se auto blížilo, palubní systém Uber upřesňoval svou identifikaci tohoto objektu. Neznámý objekt, vozidlo a konečně cyklista. V čase 1,3 sekundy před nárazem bylo jasné, že cyklista je v dráze vozidla, a systém vydal pokyn k okamžitému nouzovému brzdění. 

Brzdná dráha auta jedoucího 69 km/h je přibližně 27 metrů. To znamená, že auto - kdyby začalo brzdit včas - by do chodkyně narazilo rychlostí sotva 5 km/h.

Takto viděl situaci samořídící systém auta Uber. Ve chvíli, kdy auto rozpoznalo...

Takto viděl situaci samořídící systém auta Uber. Ve chvíli, kdy auto rozpoznalo kolizní kurz, zbývalo 25 metrů do kolize (1,3 sekundy).

Nouzové brzdění ale, jak zprávy NTSB již víme, bylo vypnuté. Proč jej inženýři Uberu deaktivovali, to můžeme zatím jen spekulovat. Možná systém Uber přerušoval jízdu příliš často. Jak naznačují zprávy z Arizony, operátoři museli přebírat řízení průměrně každých 20 kilometrů, tedy několikrát do hodiny. Ve zprávě NTSB stojí, že „nouzové brzdění bylo vypnuto, aby se zabránilo případnému eratickému chování vozidla.“

Protože auto nemohlo zahájit nouzové řízení, pokračovalo v jízdě. Systém tedy v tuto chvíli věděl, že hrozí kolize, ale nezačal brzdit a dokonce ani nevydal žádné upozornění pro operátora. Podle společnosti Uber měl zkrátka operátor dávat pozor.

Operátorka i chodkyně mohly nehodě zabránit

Operátorka, 44letá žena, zřejmě pozor zcela nedávala. Do řízení zasáhla méně než sekundu před nárazem tím, že vzala za volant (a deaktivovala tak samořídící systém). Brzdit pak začala až po nárazu, ke kterému tak došlo v téměř plné rychlosti 62 km/h. Operátorka uvedla, že sledovala hlášky samořídícího systému. Na základě videa z vozidla se spekulovalo o tom, že používala telefon, to se ale nepotvrdilo, z telefonu prý pouze zavolala záchrannou službu.

Policie zveřejnila záběry nehody samořízeného auta, při níž zemřela žena (18....

Policie zveřejnila záběry nehody samořízeného auta, při níž zemřela žena (18. března 2018)

Podle NTSB je z videa z dalších kamer zřejmé, že chodkyně se nerozhlédla ve směru blížícího se auta. Byla oblečena do tmavého oblečení. Jízdní kolo, které vedla, nebylo řádně označeno reflexními prvky po stranách. Mělo sice přední a zadní reflektory a vpředu světlo, tyto prvky ale mířily kolmo k dráze vozidla a nebyly tedy viditelné. Chodkyně navíc přecházela silnici v místě, které nebylo přímo osvětlené pouličními lampami.

Kdo tedy za tragickou nehodu může? NTSB zdůrazňuje, že vyšetřování není u konce. Předběžné závěry ukazují, že nehodě mohla zabránit jak chodkyně, tak operátorka. Zdá se ale nesporné (a ze záznamů zjevné) že nehodě mohl zabránit palubní systém. Měl k tomu všechny prostředky, senzory i dostatečný čas zareagovat. Kvůli těžko pochopitelému nastavení systému ale nezasáhl. Namísto toho, aby samořídící auta Uberu demonstrovala svou hlavní výhodu oproti lidským řidičům, tak konfigurace systému přispěla k historické tragédii.

Oprava: Opravili jsme citaci ze zprávy.

Autor:


Nejčtenější

Nelíbí se mi, kam se internet vydal, říká vynálezce WWW. Chce to změnit

Tim Berners-Lee představuje vizi nového, decentralizovaného internetu...

V roce 1990 spustil první webový server a odstartoval tak revoluci. Díky němu se internet rozšířil do celého světa, do...

Mučení a vraždu novináře prý nahrály hodinky Apple. Nejspíš to bylo jinak

Apple Watch 2

Údajná vražda opozičního saúdskoarabského novináře Džamála Chášakdžího na konzulátu v Turecku vyvolává mezinárodní...



Rusové ztrácejí u partnerů kredit, říká český odborník k nehodě Sojuzu

Start lodě Sojuz MS-10 se nezdařil, posádka musela přistát nouzově přistát....

Porucha nosiče Sojuz bude mít největší dopad na provoz ISS, říká Michal Václavík z České kosmické kanceláře. Mimo jiné...

Ve věku 65 let zemřel na rakovinu Paul Allen, s Gatesem založil Microsoft

Paul Allen na snímku z prosince 2017.

Ve věku 65 letech zemřel v pondělí spoluzakladatel firmy Microsoft Paul Allen. Miliardář, filantrop a hledač lodních...

Návrat „imperialistického brouka“? Výzkumný program USA vzbudil obavy

Program „Hmyzí spojenci“ má změnit škůdce v pomocníky v zemědělství.

Skupina vědců v časopise Science varuje před možným zneužitím amerického výzkumného programu, který vyvíjí zcela nový...

Další z rubriky

Alexa se naučí rozpoznávat emoce. Lépe vám pak vnutí, co si máte koupit

Amazon Echo Look.s digitální asistentkou Alexa

Digitální asistentka Alexa se má naučit nové triky. Nový patent Amazonu jí má umožnit rozpoznávat emoce a zdravotní...

Na papíře skvělá, v reálu však není autokamera A5 Pro WiFi žádná sláva

Kamera TrueCam A5 Pro Wifi

Nad počínáním některých řidičů zůstává rozum stát a záznam z palubní kamery může být rozhodujícím důkazem při...

Radioaktivnější voda je i v lázních, řekla o nehodě v Temelíně Dana Drábová

Šéfka českého státního jaderného dozoru Dana Drábová v diskusním pořadu...

O malé provozní havárii Temelína i obecných otázkách kolem jaderné energetiky hovořila v pořadu Rozstřel šéfka českého...

BMW M4 3,0...
BMW M4 3,0...

r.v. 2017, naj. 46 000 km, benzín
1 950 000 Kč (s DPH)



Najdete na iDNES.cz