Klávesové zkratky na tomto webu - základní­
Přeskočit hlavičku portálu

Diskuse k článku

Pro mě tank, pro ostatní Dušína. Vědci ukázali problém samořídících aut

Jak se má počítač rozhodnout v případě, že nelze zabránit ztrátám na životě? Vědci zkoumali vnímání klasického etického dilematu. První část výsledků je celkem očekávatelná: lidé chtějí, aby auta dělala etická rozhodnutí, pokud nejde o život zrovna jim. Důsledky tohoto měření jsou ale zajímavější.

Upozornění

Litujeme, ale tato diskuse byla uzavřena a již do ní nelze vkládat nové příspěvky.
Děkujeme za pochopení.

Zobrazit příspěvky: Všechny podle vláken Všechny podle času

L98e22n55a 58P73á49t81k62o24v22á 8111373114199

Povezu v autě děcko a automat rozhodne, ze statisticky je to menší ztráta pro lidstvo když umře? To tak, tudle nudle

0/0
30.6.2016 22:00

J23i77ř43í 55K27r83a90m52p41l 4776474306616

to je zajímavý problém. Pokud někdo naprogramuje algoritmus jehož výsledkem může být smrt člověka, tak nejedná se už záměrné zabití?

0/−1
29.6.2016 15:33

A68l87e27x18a69n64d43r 65Š87í97r 5261500313

Otázka do pranice: bude samořídicí auto jezdit tak (perfektně bezpečně, předvídavě, atd.), aby se do těch zcela výjimečných extrémních situací prakticky nedostávalo? (na rozdíl od živých řidičů) Pak by se ta rozhodovací dilemata jevila trochu jinak.

0/0
29.6.2016 11:12

J27i79ř58í 55O91u73k82r41o20p12e15c 5480798153539

Dle dosavadního testování a počtu momentálně najetých km se to Googlu zatím daří.

0/0
11.8.2016 15:08

J56i79r77i 21D52o86b23r74ý 9958149413

Podle podobne logiky je vlastne v poradku i kamikaze.

V pripade kamikaze jde o to, ze pilot znicenim lodi nepritele a obetovanim vlastniho zivota "zachrani" mnoho zivotu spolubojovniku.

Kdo z Vas by chtel auto "kamikaze", princip je stejny. Bud je princip vyssiho dobra dulezitejsi, a kamikaze je chvalihodny postup, nebo je to jinak?

PS: zavadeni autonomniho rizeni rychle nebude, tedy pokud se budeme drzet norem ISO26262 (ISO 61508) ktere se zabyvaji zajistenim zajisteni bezpecnosti rizeni. Vyrobit samoriditelne auto je celkem banalita ptoti nutnosti jeho bezpecnost prokazat a zdokumentovat aby to obstalo pri prvnim velkem prusvihu u soudu.

0/0
29.6.2016 10:18

H71o66n52z34a 78F27á15t94o65r 2209925844840

Pokud auto-Dušína bude využívat třeba i prezident USA, tak bych do toho šel. Ale něco mi říká, že on bude mít trochu jiný program v palubním počtači.

+2/0
28.6.2016 18:06
Foto

J72a46n 30Ž57i84ž22k69a 7898594882190

myslenka je to zajimava, dokud pocitac nevyhodnoti stado srnek jako skupinu lidi a neposle vas do stromu.

Auto bych si koupil jedine, kdyby me robot odvezl z hospody. Musel bych mit ale pravo veta na volant a brzdu.

za strizliva bych si nechal jen napovidat.

+1/0
28.6.2016 16:48

L17u29k15á96š 43F14l15í61d51r 9608111264888

"Méně prodaných samořídících aut by tak paradoxně znamenalo, že regulace, která měla zachránit více životů, jich tak nakonec více zmařila..."

Už jsem v jedné diskuzi na toto téma uváděl přesně takový argument, jako celý ten odstavec. Proto by posádka by měla mít vždy hlavní přednost a počítač by měl jen určit, která možnost -zároveň- ohrozí nejméně osob vně vozu.

Docela by mě zajímalo, jak vysoký stupeň ohrožení by byl přijatelný, jak pro posádku, tak i pro okolí.

V podstatě by se to dalo rozepsat na stupnici:

Bez škrábnutí - modřiny a šrámy - fraktury - riziko invalidity - úmrtí

plus možná i nějaké další stupně mezi, tohle je ostatně jen příklad. Já bych se třeba pro ochranu okolí obětoval klidně i do úrovně fraktury (včetně), ale riskovat invaliditu, natož pak úmrtí bych už určitě nechtěl.

0/0
28.6.2016 15:00

D84u32š86a43n 84M48a43t62o94u91š47e15k 7663640880835

Jenže tohle už je možná nespočitatelné,tzn bude tam vysoká míra neurčitosti.

Já bych soobně preferoval spíše rodinu než svůj život,prostě moji synové,žena za každou cenu,tohle je něco co půjde řešit jen velmi ztežka.

Logika věci je samozřejmě v nejmenším zlu ve smyslu všichni jsem si rovni,jenže to jsemm oprvadu zvědav kdo si to koupí.

Jediné řešení a k tomu dojde je donutit lidi legislativou....

0/0
28.6.2016 15:33

A44l50e22x76a42n26d59r 22Š17í60r 5611150403

Samořídící - špatně. Správně: samořídicí (přídavné jméno účelové). Sloveso je řídit, ne řídít. Stejně jako: honicí pes (= pes určený, vyšlechtěný k honění); a honící pes (= jakýkoliv pes, který právě honí). Samořídící auto = auto, které se právě řídí samo (někdo ho zapomněl na kopečku zabrzdit) - přídavné jméno dějové. Samořídicí = naprogramované k tomu, aby se řídilo samo (je takovým, i když stojí na místě a právě se neřídí).Také třeba spořicí účet. Balicí služba. Atd. Správně např. zde: http://www.forbes.cz/samoridici-auta-maji-problem-jsou-tak-dobra-ze-matou-lidi-a-bouraji/

+3/−1
28.6.2016 11:50
Foto

J42o34s70e30f 41L71e61o 35B35u15r20e55š 9560220371

Kdo tě učil mluvit česky? Samořídící je správně je to podle vzoru řídící, ostravaku.

0/0
5.7.2016 15:47

P66e90t76r 48D25v77o17r19a88k 3481550687729

Překlad popisu tří situací je chybný. Tam se nepíše o ohrožení, ale o ZABITÍ !!!

0/0
28.6.2016 11:35

K31a55r26e83l 23N89o61v35á25k 7811814848130

Auto, který bude na silnici rozhodovat za mě, bych si nikdy nekoupil, ať bude naprogramováno jakkoliv.

0/0
28.6.2016 9:38

J87a60k10u80b 33D27o34l60a69n89s16k50ý 5557860294987

Takže vlastně žádné auto novější roku 1960, nic s automatickou převodovkou, automatickými stěrači, nakláněním světlometů, vypínáním válců, automatickým zámkem kufru, airbagem ... chápu.

+3/−2
28.6.2016 16:35

L72u86k27á68š 64M50a28r19e48d72a 6471684367518

A taky by me zajimalo jestli by si nekdo z vas koupil auto, ktere se v krizove situaci rozhodne zabit vas, nez nekoho jineho?

+1/0
28.6.2016 7:47

J93o13s50e88f 48P96e17t64r77á12s61e52k 4614655207433

Člověk, pokud má čas na rozhodnutí bude spíš volit sobeckou variantu(já bych si sebevražedné auto taky nikdy nekoupil) ale troufám si tvrdit, že v okamžiku kdy mi před auto skočí člověk(nedejbože skupina chodců) automaticky to radši naperu do zdi. Myslím že tak je většina lidí biosu naprogramována..Co vy na to?

+1/0
27.6.2016 20:17

D67u12š41a35n 52M93a63t26o47u46š42e89k 7413590790645

Instinktivně uhnete,na nějaké kalkulování člověk nemá čas a není vybaven senzory,prostě instikty jsou pak silnější a uhýbáte před tím co máte v zorném poli,kdyby jste věděl a VIDĚL že uhnete JEN do zdi,tak neuhnete,jenže tuhle kalkulaci nestihnete provést,jednak instinkt uhnout,jednak stres....

Na tohle totiž musíte mít cílený a dlouhodobý trénink

+1/0
28.6.2016 15:35

D33a28n94i12e10l65a 48U32r90b18a18n24o16v21á 2884620985156

No je to logické bližší košile než kabát vlastní život je prostě většině lidí než životy cizích lidí. sice v sobě máme i toho Mirka dušína partyzány a podobně ale ta pudová živočišná reakce je zachránit sebe případně svá mláďata jako první. A právě v takových situacích většinou jednáme instinktivně není čas přemýšlet nad tím co je nebo není etické.

+1/0
27.6.2016 15:54

D15a45v36i10d 97R98y48c33h50e11t64s26k32ý 9276321960280

K tomu "problému, koho je správné zabít" je velmi zajímavá přednáška z Harvard University, je zdarma na youtube..

https://www.youtube.com/watch?v=kBdfcR-8hEY

0/0
27.6.2016 13:58

J42a69k17u43b 11Z62o19u43b44e85k 3495194352

Musíme počkat na chipy do hlavy. Auto zjistí, zda to chodec dělá schválně nebo ne. Ověří, zda má smysl takového člověka zachraňovat dle věku a zdraví. Poté se rozhodne ;-D Pokud půjde o atentát, tak je přejede. Problém bude, pokud bude mít zločinec hacknutý mozkový chip na zdravého sluníčkáře ;-D

+1/0
27.6.2016 11:51

J57o78s90e35f 54H44á37j32e29k 6948630759242

Z toho důvodu budou u krajnic po cca 100 m plně autonomní kulometné věže...:-)

+2/0
27.6.2016 12:36

L47u67k73á84š 89M91a19r92e55d91a 6911714147818

Tak to lze vyresit konfirmacnim dialogem ne?

-"Chcete zabit skupinku chodcu nebo sebe?"

-"Skupinku chodcu"

-"Opravdu si prejete zabit skupinku chodcui namisto sebe?"

-"Ano, ano, ano"

....

+1/0
27.6.2016 10:42

O27n66d63ř23e98j 24M24a53j84e35r95č72í86k 2697943232743

Přesně, a tak vyřeší problém, kdo za nehodu může: pokud uživatel vybral variantu "tank", tak je viníkem on, pokud variantu druhou, tak je viníkem výrobce :-) (chudák výrobce)

0/0
27.6.2016 10:47

T52o66m85a25s 51H68a58c94e57k 6984427115857

Jak muze byt vinikem nekdo kdo nema sanci vzniklou udalost nijak ovlivnit?

To je jako bych Vam navrhnul zda si pojistite cerneho Jeepa SPZ XYZ-1234 v Australii ktery nevlastnite a neridite. Ale pokud se vyboura pak byste za nej mel zaplatit. Pokud nemohu zasahovat do rizeni pak nemohu byt vinikem jakekoliv vznikle situace.

0/0
27.6.2016 14:55

T98o63m49á62š 19Ž65i64t80n64ý 6611100921811

Jak bylo řečeno - roboticka auta nechybuji. Vina bude v pripade takove komizni situace na 99.99% na strane toho chodce ktery se nahle ocitl pred autem. Je neeticke aby cizí chybu odnesl nevinny. Robot by tedy mel dle d. predpisu vyhodnotit viníka a pam maximálně chanut ostatní nevinne zúčastněné. Teprve pak se snažit minimalizovat následky pro viníka, ale BEZ dopadu pro nevinne.

0/0
27.6.2016 10:17

D48a88n26i14e49l96a 42U27r48b14a27n65o75v96á 2154280505246

Je pravda že to je docela zajímavá myšlenka která mne nenapadla..zahrnout do toho vinu za nehodu........co ale v případě že by vznikla technická závada na voze například selhaly brzdy, viníkem by byl výrobce vozu protože šlo o vadnou součástku kterou o řidič nemohl ovlivnit a měl by dojít se srážce s chodcem na přechodu....z hlediska silničních předpisů má chodec přednost.. nemůže za porucuh vozu, řidič také ne... jak tedy eticky rozhodnout?

0/0
27.6.2016 16:07

J81a51n 97S36o42u32k34u59p 1394584926875

A co když chyba vznikne někde jinde, než na straně toho chodce?

0/0
28.6.2016 0:09

J15i85ř31í 68Z30a69t77l53o59u45k68a68l 3598589321956

Řekl bych, že největší slabinou této teorie je předpoklad, že všichni účastníci se do té situace dostanou nějakou náhodou nebo chybou, že nikdo tak nebude jednat třeba záměrně. A teď si představte v lepším případě partu chuligánů, v horším třeba skupinu mafiánů, kteří se snaží někoho zabít. Pokud budou mít jistotu, že auto musí být nastaveno tak, aby jim vždy uhnulo a ohrozilo raději posádku, kde berete tu jistotu, že toho nikdo nezneužije, nevběhne takto záměrně v dostatečně velké skupině před auto a nezpůsobí tak nehodu a třeba i smrt jeho posádky?

+7/0
26.6.2016 23:38

P43e67t58r 62P23a46v28l51a82t21a 7556930787891

Jde o to, že ten princip "vyššího dobra" nebyl ani implementován. Tečka.

Dá se předpokládat, že to auto chybu (s velmi vysokou pravděpodobností) prostě neudělá. Proč by měl nést následky ten, který nic nezpůsobil.

Ok, sestřelí třeba několik cyklistů, co se proti všem pravidlům najednou vyřítilo na přechod ( a to se na některých místech u nás stává často). Ale to jen jejich chyba, oni poruší pravidla, oni mají nést následky. Bez ohledu na to, že jich třeba bude víc.

0/−1
26.6.2016 23:43

J66i82ř33í 60Z98a41t44l16o76u45k49a96l 3648459821396

Ale ten článek je zatím čistě teoretický. Jde o to, že pokud by ten princip "vyššího dobra" skutečně chtěl někdo prosadit a implementovat, je třeba vzít do úvahy i další okolnosti, že to, co se může na první pohled zdát jako správné a výhodné pro společnost jako celek, může být pro ni v konečném důsledku dost nevýhodné a nebezpečné.

+3/0
27.6.2016 0:18
Foto

P76e82t10r 38T26u70r98e40č73e68k 8672792847185

Velmi trefná připomínka. Banda loupežníků uvidí v dáli luxusní auto, hup na cestu, auto zabije majitele a loupežníci jen posbírají cennosti. Nejsmutnější na tom je, že jsou na světě "lidé", kteří by do toho šli.

0/0
28.6.2016 16:51

T23o83m74á69š 77R84e45k97t58o90r 1608364897239

Řešíte nesmysly, ty auta momentálně neřídí žádná umělá inteligence, tu zatím nezvládneme vytvořit ani omylem, řídí je program a tudíž jak zareaguje v něm nastaví tvůrci programu tedy lidé...

+1/−4
26.6.2016 23:05

T23o25m81á81š 68V53a44l72d92e49r 7723950839

Každou UI musíte nejdříve naprogramovat. Nyní záleží jak schopný je programátor.

+2/−1
26.6.2016 23:23

P92e85t40r 73P63a30v67l31a64t32a 7946670967931

Skutečná UI se programovat nebude, bude se programovat pouze její učení.

+2/0
26.6.2016 23:44

J77a33k19u76b 88D79o84l26a58n86s84k21ý 5417730504907

Jestli tomu dobře rozumím, tak to už takto s Google auty do jisté míry funguje.

0/0
28.6.2016 16:39

T34o95m81á10š 51V22a28l26d96e15r 7323900579

Nejdříve musíte naprogramovat vlastní program. To, že se bude učit určíte vy jako člověk. Možná někdy v budoucnu si budou psát roboti program sami ;-D ale zatím to není na pořadu dne. A to není programování, když programujete její učení? UI se na základě daných algoritmů dokáže vybrat nejlepší řešení a uložit jej do paměti a dlaší rozhodování už má více možností, přesto jede dle definovaných algoritmů. Výhodou je, že se dokáže poučit, což se o některých lidech nedá říci. :-) UI je program, jak takový program vznikne?;-)

0/0
28.6.2016 18:59

M92i85r23e70k 59G66a48j83e71r 5821256989750

Predevsim si nemyslim, ze samoriditelna auta budou nekdy jezdit po nasich velmi uzkych silnicich, kde se v nekterych mistech normalne nevyhnou ani dve stredne velka auta.

0/0
26.6.2016 19:51
Foto

P37a53v87e52l 88K93a80s73í96k97, 85T95e51c65h15n91e79t83.57c92z

Pokud se někdo vyhnout dokáže, tak právě samořiditelná auta :-)

+9/0
26.6.2016 20:04

J68a65n 10S70o50u80k16u12p 1174624226665

To je matematický kalkul, ale v realitě českých improvizovaných řešení nefunkční. Co když se ta dvě auta skutečně fyzicky nevyhnou, co se bude dít poté?

0/0
28.6.2016 0:12

K11a75r83e74l 38N54o25v37á20k 7831944868370

Nic, zastaví se a zavolaj si odtahovku.

+2/0
28.6.2016 9:37

D73a18n 10S43v90o90b98o66d15a 9170710525266

Nekoupil bych si auto ktere na ukor me a me posadky zachrani nahodne chodce. Pokud povezu manzelku a deti tak je jejich bezpecnost moji prioritou.

Software nemuze byt nastaven aby zachranoval podle poctu lidi (napr 5 opilcu na silnici je vic nez 4 clena rodina v aute)

+10/−1
26.6.2016 15:29

J12o17s86e77f 66R43i85c28h94t74e80r 9396635357673

aha. a co když je mezi těma chodcema taky něčí manželka a děti? kdyby tenhle problém měl tak jednoduchý zkratkovitý řešení jako nabízíte, tak to asi nemusíme řešit...

+1/−1
26.6.2016 16:45

J30a81n 84H69á22j42e75k 2726166683255

V autě, při rychlosti do 50 km/h, s dnešními bezpečnostními prvky, v pohodě čelní naraz přežijete. Bez dozivotnich důsledků. Což o čelním střetu s chodcem pro chodce není to samé. Proto i dnes bez robotiky, vyhnout se lidem. Zbytek udělají deformacni zóny, tuhost kabiny, atd.

+1/0
26.6.2016 17:32

P71e23t10r 94P68a22v32l21a51t18a 7496410267601

A budu to riskovat se svoji rodinu? Máte pravdu, že skoro jistě přežijete, ale s následky už to tak jednoznačné být nemusí. Zpomalení i z těch 50 na nulu na místě je příliš velké přetížení. Ani náhodou.

0/0
26.6.2016 18:38

J11a18n 78H42á29j13e37k 2646406453325

No tak v té samé situaci, pod kontrolou člověka, narazíte ne v 50 km/h rychlosti, ale ve vyšší, protože člověk reaguje pomaleji a ten čas chybí ve snížení rychlosti. A nenarazíte do překážky, ale do člověka, protože upřednostníte svoji rodinu ve vozu.

No, a pak si za zabití půjde na dva roky sednout. A to nemluvím o tom, že pozůstalí po Vás budou chtít finanční kompenzaci.

Fakt ta robotika je naho*no??

0/0
26.6.2016 18:47

P31e11t40r 83P35a43v80l19a50t71a 7726280987161

Raději si půjdu na dva roky sednout (což je IMHO nereálné, pokud jste bezúhoný a prokazatelně to nebyla Vaše chyba - jen jste nezatočil do zdi - dostanete podmínku, známé se to stalo - přejela v noci opilce na silnici), než být třeba zbytek života invalida, nebo někdo z mojí rodiny.

+2/0
26.6.2016 19:04

J67a17n 52H82á59j80e49k 2676196203345

No, ale přeci je tom, jak člověk či robot má ovládat auto tak, aby nenastalo ani jedno.

0/0
26.6.2016 19:43

P95e40t85r 64P87a16v81l63a71t46a 7216900377261

Celý článek je o tom, zda má mít automat možnost udělat akci proti zájmům majitele-posádky auta, v případě, že střet bude nevyhnutelný.

Ale osobně si myslím, že k rozhodování o "vyšším dobrou" nikdy nedojde, Americká justice se o to postará....

+1/0
26.6.2016 19:49

P73e67t32r 75P87a38v88l79a36t60a 7956830817791

A nakonec asi i volný trh, lidi o to očividně nestojí...

+1/0
26.6.2016 19:52





Najdete na iDNES.cz



mobilní verze
© 1999–2016 MAFRA, a. s., a dodavatelé Profimedia, Reuters, ČTK, AP. Jakékoliv užití obsahu včetně převzetí, šíření či dalšího zpřístupňování článků a fotografií je bez souhlasu MAFRA, a. s., zakázáno. Provozovatelem serveru iDNES.cz je MAFRA, a. s., se sídlem
Karla Engliše 519/11, 150 00 Praha 5, IČ: 45313351, zapsaná v obchodním rejstříku vedeném Městským soudem v Praze, oddíl B, vložka 1328. Vydavatelství MAFRA, a. s., je součástí koncernu AGROFERT ovládaného Ing. Andrejem Babišem.