Klávesové zkratky na tomto webu - základní­
Přeskočit hlavičku portálu


Diskuse k článku

Pro mě tank, pro ostatní Dušína. Vědci ukázali problém samořídících aut

Jak se má počítač rozhodnout v případě, že nelze zabránit ztrátám na životě? Vědci zkoumali vnímání klasického etického dilematu. První část výsledků je celkem očekávatelná: lidé chtějí, aby auta dělala etická rozhodnutí, pokud nejde o život zrovna jim. Důsledky tohoto měření jsou ale zajímavější.

Upozornění

Litujeme, ale tato diskuse byla uzavřena a již do ní nelze vkládat nové příspěvky.
Děkujeme za pochopení.

Zobrazit příspěvky: Všechny podle vláken Všechny podle času

L17e75n28a 35P80á61t59k49o95v45á 8961403874909

Povezu v autě děcko a automat rozhodne, ze statisticky je to menší ztráta pro lidstvo když umře? To tak, tudle nudle

0/0
30.6.2016 22:00

J92i44ř20í 38K40r34a84m72p59l 4286504516896

to je zajímavý problém. Pokud někdo naprogramuje algoritmus jehož výsledkem může být smrt člověka, tak nejedná se už záměrné zabití?

0/−1
29.6.2016 15:33

A79l70e42x68a74n12d65r 74Š81í66r 5741830393

Otázka do pranice: bude samořídicí auto jezdit tak (perfektně bezpečně, předvídavě, atd.), aby se do těch zcela výjimečných extrémních situací prakticky nedostávalo? (na rozdíl od živých řidičů) Pak by se ta rozhodovací dilemata jevila trochu jinak.

0/0
29.6.2016 11:12

J92i81ř39í 91O39u35k96r83o97p58e58c 5170348753439

Dle dosavadního testování a počtu momentálně najetých km se to Googlu zatím daří.

0/0
11.8.2016 15:08

J32i13r67i 17D40o20b68r69ý 9348139383

Podle podobne logiky je vlastne v poradku i kamikaze.

V pripade kamikaze jde o to, ze pilot znicenim lodi nepritele a obetovanim vlastniho zivota "zachrani" mnoho zivotu spolubojovniku.

Kdo z Vas by chtel auto "kamikaze", princip je stejny. Bud je princip vyssiho dobra dulezitejsi, a kamikaze je chvalihodny postup, nebo je to jinak?

PS: zavadeni autonomniho rizeni rychle nebude, tedy pokud se budeme drzet norem ISO26262 (ISO 61508) ktere se zabyvaji zajistenim zajisteni bezpecnosti rizeni. Vyrobit samoriditelne auto je celkem banalita ptoti nutnosti jeho bezpecnost prokazat a zdokumentovat aby to obstalo pri prvnim velkem prusvihu u soudu.

0/0
29.6.2016 10:18

H65o84n35z28a 61F53á62t56o94r 2919895304360

Pokud auto-Dušína bude využívat třeba i prezident USA, tak bych do toho šel. Ale něco mi říká, že on bude mít trochu jiný program v palubním počtači.

+2/0
28.6.2016 18:06
Foto

J20a26n 92Ž95i72ž83k19a 7668774892400

myslenka je to zajimava, dokud pocitac nevyhodnoti stado srnek jako skupinu lidi a neposle vas do stromu.

Auto bych si koupil jedine, kdyby me robot odvezl z hospody. Musel bych mit ale pravo veta na volant a brzdu.

za strizliva bych si nechal jen napovidat.

+1/0
28.6.2016 16:48

L59u63k16á75š 98F81l22í69d66r 9368951414978

"Méně prodaných samořídících aut by tak paradoxně znamenalo, že regulace, která měla zachránit více životů, jich tak nakonec více zmařila..."

Už jsem v jedné diskuzi na toto téma uváděl přesně takový argument, jako celý ten odstavec. Proto by posádka by měla mít vždy hlavní přednost a počítač by měl jen určit, která možnost -zároveň- ohrozí nejméně osob vně vozu.

Docela by mě zajímalo, jak vysoký stupeň ohrožení by byl přijatelný, jak pro posádku, tak i pro okolí.

V podstatě by se to dalo rozepsat na stupnici:

Bez škrábnutí - modřiny a šrámy - fraktury - riziko invalidity - úmrtí

plus možná i nějaké další stupně mezi, tohle je ostatně jen příklad. Já bych se třeba pro ochranu okolí obětoval klidně i do úrovně fraktury (včetně), ale riskovat invaliditu, natož pak úmrtí bych už určitě nechtěl.

0/0
28.6.2016 15:00

D71u39š96a63n 70M28a47t39o22u47š80e29k 7933750720605

Jenže tohle už je možná nespočitatelné,tzn bude tam vysoká míra neurčitosti.

Já bych soobně preferoval spíše rodinu než svůj život,prostě moji synové,žena za každou cenu,tohle je něco co půjde řešit jen velmi ztežka.

Logika věci je samozřejmě v nejmenším zlu ve smyslu všichni jsem si rovni,jenže to jsemm oprvadu zvědav kdo si to koupí.

Jediné řešení a k tomu dojde je donutit lidi legislativou....

0/0
28.6.2016 15:33

A28l29e98x17a45n86d11r 88Š55í79r 5951190773

Samořídící - špatně. Správně: samořídicí (přídavné jméno účelové). Sloveso je řídit, ne řídít. Stejně jako: honicí pes (= pes určený, vyšlechtěný k honění); a honící pes (= jakýkoliv pes, který právě honí). Samořídící auto = auto, které se právě řídí samo (někdo ho zapomněl na kopečku zabrzdit) - přídavné jméno dějové. Samořídicí = naprogramované k tomu, aby se řídilo samo (je takovým, i když stojí na místě a právě se neřídí).Také třeba spořicí účet. Balicí služba. Atd. Správně např. zde: http://www.forbes.cz/samoridici-auta-maji-problem-jsou-tak-dobra-ze-matou-lidi-a-bouraji/

+3/−1
28.6.2016 11:50
Foto

J59o68s83e29f 60L96e11o 53B21u12r17e70š 9920290501

Kdo tě učil mluvit česky? Samořídící je správně je to podle vzoru řídící, ostravaku.

0/0
5.7.2016 15:47

P68e94t78r 87D45v95o15r17a76k 3411900367519

Překlad popisu tří situací je chybný. Tam se nepíše o ohrožení, ale o ZABITÍ !!!

0/0
28.6.2016 11:35

K80a48r86e83l 26N30o41v63á62k 7751514298160

Auto, který bude na silnici rozhodovat za mě, bych si nikdy nekoupil, ať bude naprogramováno jakkoliv.

0/0
28.6.2016 9:38

J74a12k26u38b 91D31o51l98a16n80s83k43ý 5237300304557

Takže vlastně žádné auto novější roku 1960, nic s automatickou převodovkou, automatickými stěrači, nakláněním světlometů, vypínáním válců, automatickým zámkem kufru, airbagem ... chápu.

+3/−2
28.6.2016 16:35

L42u69k45á89š 61M57a23r35e36d64a 6341984127338

A taky by me zajimalo jestli by si nekdo z vas koupil auto, ktere se v krizove situaci rozhodne zabit vas, nez nekoho jineho?

+1/0
28.6.2016 7:47

J57o68s32e94f 68P84e71t90r67á17s51e52k 4814415167103

Člověk, pokud má čas na rozhodnutí bude spíš volit sobeckou variantu(já bych si sebevražedné auto taky nikdy nekoupil) ale troufám si tvrdit, že v okamžiku kdy mi před auto skočí člověk(nedejbože skupina chodců) automaticky to radši naperu do zdi. Myslím že tak je většina lidí biosu naprogramována..Co vy na to?

+1/0
27.6.2016 20:17

D82u16š20a42n 17M42a80t82o25u22š53e12k 7123640660265

Instinktivně uhnete,na nějaké kalkulování člověk nemá čas a není vybaven senzory,prostě instikty jsou pak silnější a uhýbáte před tím co máte v zorném poli,kdyby jste věděl a VIDĚL že uhnete JEN do zdi,tak neuhnete,jenže tuhle kalkulaci nestihnete provést,jednak instinkt uhnout,jednak stres....

Na tohle totiž musíte mít cílený a dlouhodobý trénink

+1/0
28.6.2016 15:35

D10a13n56i35e73l90a 35U60r70b69a78n76o82v19á 2144410925306

No je to logické bližší košile než kabát vlastní život je prostě většině lidí než životy cizích lidí. sice v sobě máme i toho Mirka dušína partyzány a podobně ale ta pudová živočišná reakce je zachránit sebe případně svá mláďata jako první. A právě v takových situacích většinou jednáme instinktivně není čas přemýšlet nad tím co je nebo není etické.

+1/0
27.6.2016 15:54

D63a50v91i91d 90R50y36c50h22e53t71s28k87ý 9646511840350

K tomu "problému, koho je správné zabít" je velmi zajímavá přednáška z Harvard University, je zdarma na youtube..

https://www.youtube.com/watch?v=kBdfcR-8hEY

0/0
27.6.2016 13:58

J80a38k58u74b 18Z25o84u80b46e71k 3125154422

Musíme počkat na chipy do hlavy. Auto zjistí, zda to chodec dělá schválně nebo ne. Ověří, zda má smysl takového člověka zachraňovat dle věku a zdraví. Poté se rozhodne ;-D Pokud půjde o atentát, tak je přejede. Problém bude, pokud bude mít zločinec hacknutý mozkový chip na zdravého sluníčkáře ;-D

+1/0
27.6.2016 11:51

J13o48s69e19f 44H13á75j17e21k 6658830479502

Z toho důvodu budou u krajnic po cca 100 m plně autonomní kulometné věže...:-)

+2/0
27.6.2016 12:36

L23u17k97á51š 89M22a40r34e78d59a 6641714887418

Tak to lze vyresit konfirmacnim dialogem ne?

-"Chcete zabit skupinku chodcu nebo sebe?"

-"Skupinku chodcu"

-"Opravdu si prejete zabit skupinku chodcui namisto sebe?"

-"Ano, ano, ano"

....

+1/0
27.6.2016 10:42

O76n17d19ř13e63j 47M16a20j67e78r27č55í17k 2817593732273

Přesně, a tak vyřeší problém, kdo za nehodu může: pokud uživatel vybral variantu "tank", tak je viníkem on, pokud variantu druhou, tak je viníkem výrobce :-) (chudák výrobce)

0/0
27.6.2016 10:47

T92o89m70a73s 71H72a47c29e22k 6924117785697

Jak muze byt vinikem nekdo kdo nema sanci vzniklou udalost nijak ovlivnit?

To je jako bych Vam navrhnul zda si pojistite cerneho Jeepa SPZ XYZ-1234 v Australii ktery nevlastnite a neridite. Ale pokud se vyboura pak byste za nej mel zaplatit. Pokud nemohu zasahovat do rizeni pak nemohu byt vinikem jakekoliv vznikle situace.

0/0
27.6.2016 14:55

T20o53m71á23š 43Ž39i14t55n80ý 6821120161961

Jak bylo řečeno - roboticka auta nechybuji. Vina bude v pripade takove komizni situace na 99.99% na strane toho chodce ktery se nahle ocitl pred autem. Je neeticke aby cizí chybu odnesl nevinny. Robot by tedy mel dle d. predpisu vyhodnotit viníka a pam maximálně chanut ostatní nevinne zúčastněné. Teprve pak se snažit minimalizovat následky pro viníka, ale BEZ dopadu pro nevinne.

0/0
27.6.2016 10:17

D39a72n71i65e32l52a 28U85r47b78a98n69o12v44á 2464640435356

Je pravda že to je docela zajímavá myšlenka která mne nenapadla..zahrnout do toho vinu za nehodu........co ale v případě že by vznikla technická závada na voze například selhaly brzdy, viníkem by byl výrobce vozu protože šlo o vadnou součástku kterou o řidič nemohl ovlivnit a měl by dojít se srážce s chodcem na přechodu....z hlediska silničních předpisů má chodec přednost.. nemůže za porucuh vozu, řidič také ne... jak tedy eticky rozhodnout?

0/0
27.6.2016 16:07

J22a19n 88S18o17u12k44u67p 1264434236465

A co když chyba vznikne někde jinde, než na straně toho chodce?

0/0
28.6.2016 0:09

J18i87ř71í 64Z75a18t56l50o37u77k36a50l 3348169921236

Řekl bych, že největší slabinou této teorie je předpoklad, že všichni účastníci se do té situace dostanou nějakou náhodou nebo chybou, že nikdo tak nebude jednat třeba záměrně. A teď si představte v lepším případě partu chuligánů, v horším třeba skupinu mafiánů, kteří se snaží někoho zabít. Pokud budou mít jistotu, že auto musí být nastaveno tak, aby jim vždy uhnulo a ohrozilo raději posádku, kde berete tu jistotu, že toho nikdo nezneužije, nevběhne takto záměrně v dostatečně velké skupině před auto a nezpůsobí tak nehodu a třeba i smrt jeho posádky?

+7/0
26.6.2016 23:38

P72e36t68r 18P25a48v76l93a87t49a 7646630637871

Jde o to, že ten princip "vyššího dobra" nebyl ani implementován. Tečka.

Dá se předpokládat, že to auto chybu (s velmi vysokou pravděpodobností) prostě neudělá. Proč by měl nést následky ten, který nic nezpůsobil.

Ok, sestřelí třeba několik cyklistů, co se proti všem pravidlům najednou vyřítilo na přechod ( a to se na některých místech u nás stává často). Ale to jen jejich chyba, oni poruší pravidla, oni mají nést následky. Bez ohledu na to, že jich třeba bude víc.

0/−1
26.6.2016 23:43

J83i12ř51í 34Z41a89t81l40o79u70k56a86l 3838839401626

Ale ten článek je zatím čistě teoretický. Jde o to, že pokud by ten princip "vyššího dobra" skutečně chtěl někdo prosadit a implementovat, je třeba vzít do úvahy i další okolnosti, že to, co se může na první pohled zdát jako správné a výhodné pro společnost jako celek, může být pro ni v konečném důsledku dost nevýhodné a nebezpečné.

+3/0
27.6.2016 0:18
Foto

P66e82t94r 51T54u53r16e53č37e92k 8492932697875

Velmi trefná připomínka. Banda loupežníků uvidí v dáli luxusní auto, hup na cestu, auto zabije majitele a loupežníci jen posbírají cennosti. Nejsmutnější na tom je, že jsou na světě "lidé", kteří by do toho šli.

0/0
28.6.2016 16:51

T67o91m85á73š 89R51e48k81t81o61r 1338904957889

Řešíte nesmysly, ty auta momentálně neřídí žádná umělá inteligence, tu zatím nezvládneme vytvořit ani omylem, řídí je program a tudíž jak zareaguje v něm nastaví tvůrci programu tedy lidé...

+1/−4
26.6.2016 23:05

T47o67m60á91š 19V56a86l96d80e67r 7463390589

Každou UI musíte nejdříve naprogramovat. Nyní záleží jak schopný je programátor.

+2/−1
26.6.2016 23:23

P44e79t13r 96P42a45v19l81a88t94a 7976200497211

Skutečná UI se programovat nebude, bude se programovat pouze její učení.

+2/0
26.6.2016 23:44

J27a10k23u88b 31D61o20l64a89n34s87k11ý 5607400804937

Jestli tomu dobře rozumím, tak to už takto s Google auty do jisté míry funguje.

0/0
28.6.2016 16:39

T15o15m53á22š 89V47a12l58d35e58r 7593790649

Nejdříve musíte naprogramovat vlastní program. To, že se bude učit určíte vy jako člověk. Možná někdy v budoucnu si budou psát roboti program sami ;-D ale zatím to není na pořadu dne. A to není programování, když programujete její učení? UI se na základě daných algoritmů dokáže vybrat nejlepší řešení a uložit jej do paměti a dlaší rozhodování už má více možností, přesto jede dle definovaných algoritmů. Výhodou je, že se dokáže poučit, což se o některých lidech nedá říci. :-) UI je program, jak takový program vznikne?;-)

0/0
28.6.2016 18:59

M78i65r93e97k 17G74a78j79e54r 5561186959340

Predevsim si nemyslim, ze samoriditelna auta budou nekdy jezdit po nasich velmi uzkych silnicich, kde se v nekterych mistech normalne nevyhnou ani dve stredne velka auta.

0/0
26.6.2016 19:51
Foto

P24a23v71e53l 44K57a51s17í10k91, 14T94e97c37h62n21e39t94.13c59z

Pokud se někdo vyhnout dokáže, tak právě samořiditelná auta :-)

+9/0
26.6.2016 20:04

J84a34n 55S31o17u61k33u15p 1254354606955

To je matematický kalkul, ale v realitě českých improvizovaných řešení nefunkční. Co když se ta dvě auta skutečně fyzicky nevyhnou, co se bude dít poté?

0/0
28.6.2016 0:12

K14a93r23e86l 45N63o14v25á31k 7231704648110

Nic, zastaví se a zavolaj si odtahovku.

+2/0
28.6.2016 9:37

D92a21n 76S51v26o43b26o22d91a 9730390875256

Nekoupil bych si auto ktere na ukor me a me posadky zachrani nahodne chodce. Pokud povezu manzelku a deti tak je jejich bezpecnost moji prioritou.

Software nemuze byt nastaven aby zachranoval podle poctu lidi (napr 5 opilcu na silnici je vic nez 4 clena rodina v aute)

+10/−1
26.6.2016 15:29

J31o36s95e28f 12R84i66c53h97t93e43r 9496335937403

aha. a co když je mezi těma chodcema taky něčí manželka a děti? kdyby tenhle problém měl tak jednoduchý zkratkovitý řešení jako nabízíte, tak to asi nemusíme řešit...

+1/−1
26.6.2016 16:45

J98a44n 63H20á83j66e15k 2676216383735

V autě, při rychlosti do 50 km/h, s dnešními bezpečnostními prvky, v pohodě čelní naraz přežijete. Bez dozivotnich důsledků. Což o čelním střetu s chodcem pro chodce není to samé. Proto i dnes bez robotiky, vyhnout se lidem. Zbytek udělají deformacni zóny, tuhost kabiny, atd.

+1/0
26.6.2016 17:32

P18e27t79r 90P11a48v57l56a48t81a 7876350947681

A budu to riskovat se svoji rodinu? Máte pravdu, že skoro jistě přežijete, ale s následky už to tak jednoznačné být nemusí. Zpomalení i z těch 50 na nulu na místě je příliš velké přetížení. Ani náhodou.

0/0
26.6.2016 18:38

J79a43n 49H22á82j17e76k 2196326813915

No tak v té samé situaci, pod kontrolou člověka, narazíte ne v 50 km/h rychlosti, ale ve vyšší, protože člověk reaguje pomaleji a ten čas chybí ve snížení rychlosti. A nenarazíte do překážky, ale do člověka, protože upřednostníte svoji rodinu ve vozu.

No, a pak si za zabití půjde na dva roky sednout. A to nemluvím o tom, že pozůstalí po Vás budou chtít finanční kompenzaci.

Fakt ta robotika je naho*no??

0/0
26.6.2016 18:47

P38e74t77r 40P64a31v37l16a73t21a 7586360287121

Raději si půjdu na dva roky sednout (což je IMHO nereálné, pokud jste bezúhoný a prokazatelně to nebyla Vaše chyba - jen jste nezatočil do zdi - dostanete podmínku, známé se to stalo - přejela v noci opilce na silnici), než být třeba zbytek života invalida, nebo někdo z mojí rodiny.

+2/0
26.6.2016 19:04

J41a10n 75H46á91j27e55k 2386256253855

No, ale přeci je tom, jak člověk či robot má ovládat auto tak, aby nenastalo ani jedno.

0/0
26.6.2016 19:43

P71e28t98r 54P65a40v17l56a18t19a 7206810787171

Celý článek je o tom, zda má mít automat možnost udělat akci proti zájmům majitele-posádky auta, v případě, že střet bude nevyhnutelný.

Ale osobně si myslím, že k rozhodování o "vyšším dobrou" nikdy nedojde, Americká justice se o to postará....

+1/0
26.6.2016 19:49

P26e66t96r 88P94a67v84l23a92t79a 7746750427841

A nakonec asi i volný trh, lidi o to očividně nestojí...

+1/0
26.6.2016 19:52







Najdete na iDNES.cz



mobilní verze
© 1999–2017 MAFRA, a. s., a dodavatelé Profimedia, Reuters, ČTK, AP. Jakékoliv užití obsahu včetně převzetí, šíření či dalšího zpřístupňování článků a fotografií je bez souhlasu MAFRA, a. s., zakázáno. Provozovatelem serveru iDNES.cz je MAFRA, a. s., se sídlem
Karla Engliše 519/11, 150 00 Praha 5, IČ: 45313351, zapsaná v obchodním rejstříku vedeném Městským soudem v Praze, oddíl B, vložka 1328. Vydavatelství MAFRA, a. s., je členem koncernu AGROFERT.