Klávesové zkratky na tomto webu - základní­
Přeskočit hlavičku portálu


Diskuse k článku

Pro mě tank, pro ostatní Dušína. Vědci ukázali problém samořídících aut

Jak se má počítač rozhodnout v případě, že nelze zabránit ztrátám na životě? Vědci zkoumali vnímání klasického etického dilematu. První část výsledků je celkem očekávatelná: lidé chtějí, aby auta dělala etická rozhodnutí, pokud nejde o život zrovna jim. Důsledky tohoto měření jsou ale zajímavější.

Upozornění

Litujeme, ale tato diskuse byla uzavřena a již do ní nelze vkládat nové příspěvky.
Děkujeme za pochopení.

Zobrazit příspěvky: Všechny podle vláken Všechny podle času

L49e41n84a 69P18á57t19k71o24v98á 8601563474639

Povezu v autě děcko a automat rozhodne, ze statisticky je to menší ztráta pro lidstvo když umře? To tak, tudle nudle

0/0
30.6.2016 22:00

J42i72ř97í 98K93r27a15m97p47l 4506344966106

to je zajímavý problém. Pokud někdo naprogramuje algoritmus jehož výsledkem může být smrt člověka, tak nejedná se už záměrné zabití?

0/−1
29.6.2016 15:33

A80l94e78x82a29n77d78r 16Š42í64r 5111590163

Otázka do pranice: bude samořídicí auto jezdit tak (perfektně bezpečně, předvídavě, atd.), aby se do těch zcela výjimečných extrémních situací prakticky nedostávalo? (na rozdíl od živých řidičů) Pak by se ta rozhodovací dilemata jevila trochu jinak.

0/0
29.6.2016 11:12

J36i54ř21í 19O65u78k20r37o59p24e43c 5510738983189

Dle dosavadního testování a počtu momentálně najetých km se to Googlu zatím daří.

0/0
11.8.2016 15:08

J20i60r85i 65D39o42b13r22ý 9748209853

Podle podobne logiky je vlastne v poradku i kamikaze.

V pripade kamikaze jde o to, ze pilot znicenim lodi nepritele a obetovanim vlastniho zivota "zachrani" mnoho zivotu spolubojovniku.

Kdo z Vas by chtel auto "kamikaze", princip je stejny. Bud je princip vyssiho dobra dulezitejsi, a kamikaze je chvalihodny postup, nebo je to jinak?

PS: zavadeni autonomniho rizeni rychle nebude, tedy pokud se budeme drzet norem ISO26262 (ISO 61508) ktere se zabyvaji zajistenim zajisteni bezpecnosti rizeni. Vyrobit samoriditelne auto je celkem banalita ptoti nutnosti jeho bezpecnost prokazat a zdokumentovat aby to obstalo pri prvnim velkem prusvihu u soudu.

0/0
29.6.2016 10:18

H95o91n97z18a 97F45á80t47o75r 2139135774830

Pokud auto-Dušína bude využívat třeba i prezident USA, tak bych do toho šel. Ale něco mi říká, že on bude mít trochu jiný program v palubním počtači.

+2/0
28.6.2016 18:06
Foto

J15a22n 21Ž74i19ž90k46a 7438214752790

myslenka je to zajimava, dokud pocitac nevyhodnoti stado srnek jako skupinu lidi a neposle vas do stromu.

Auto bych si koupil jedine, kdyby me robot odvezl z hospody. Musel bych mit ale pravo veta na volant a brzdu.

za strizliva bych si nechal jen napovidat.

+1/0
28.6.2016 16:48

L23u39k39á47š 88F37l36í14d64r 9878241534838

"Méně prodaných samořídících aut by tak paradoxně znamenalo, že regulace, která měla zachránit více životů, jich tak nakonec více zmařila..."

Už jsem v jedné diskuzi na toto téma uváděl přesně takový argument, jako celý ten odstavec. Proto by posádka by měla mít vždy hlavní přednost a počítač by měl jen určit, která možnost -zároveň- ohrozí nejméně osob vně vozu.

Docela by mě zajímalo, jak vysoký stupeň ohrožení by byl přijatelný, jak pro posádku, tak i pro okolí.

V podstatě by se to dalo rozepsat na stupnici:

Bez škrábnutí - modřiny a šrámy - fraktury - riziko invalidity - úmrtí

plus možná i nějaké další stupně mezi, tohle je ostatně jen příklad. Já bych se třeba pro ochranu okolí obětoval klidně i do úrovně fraktury (včetně), ale riskovat invaliditu, natož pak úmrtí bych už určitě nechtěl.

0/0
28.6.2016 15:00

D77u84š30a25n 92M25a50t59o66u61š86e84k 7123460510485

Jenže tohle už je možná nespočitatelné,tzn bude tam vysoká míra neurčitosti.

Já bych soobně preferoval spíše rodinu než svůj život,prostě moji synové,žena za každou cenu,tohle je něco co půjde řešit jen velmi ztežka.

Logika věci je samozřejmě v nejmenším zlu ve smyslu všichni jsem si rovni,jenže to jsemm oprvadu zvědav kdo si to koupí.

Jediné řešení a k tomu dojde je donutit lidi legislativou....

0/0
28.6.2016 15:33

A76l14e33x15a40n89d61r 76Š73í98r 5621300913

Samořídící - špatně. Správně: samořídicí (přídavné jméno účelové). Sloveso je řídit, ne řídít. Stejně jako: honicí pes (= pes určený, vyšlechtěný k honění); a honící pes (= jakýkoliv pes, který právě honí). Samořídící auto = auto, které se právě řídí samo (někdo ho zapomněl na kopečku zabrzdit) - přídavné jméno dějové. Samořídicí = naprogramované k tomu, aby se řídilo samo (je takovým, i když stojí na místě a právě se neřídí).Také třeba spořicí účet. Balicí služba. Atd. Správně např. zde: http://www.forbes.cz/samoridici-auta-maji-problem-jsou-tak-dobra-ze-matou-lidi-a-bouraji/

+3/−1
28.6.2016 11:50
Foto

J68o98s97e26f 48L45e58o 20B88u94r87e33š 9520510921

Kdo tě učil mluvit česky? Samořídící je správně je to podle vzoru řídící, ostravaku.

0/0
5.7.2016 15:47

P61e29t67r 98D86v81o38r36a94k 3901920257289

Překlad popisu tří situací je chybný. Tam se nepíše o ohrožení, ale o ZABITÍ !!!

0/0
28.6.2016 11:35

K13a93r32e18l 47N75o36v61á78k 7961114858360

Auto, který bude na silnici rozhodovat za mě, bych si nikdy nekoupil, ať bude naprogramováno jakkoliv.

0/0
28.6.2016 9:38

J27a68k70u64b 23D12o41l89a26n12s33k87ý 5697660444447

Takže vlastně žádné auto novější roku 1960, nic s automatickou převodovkou, automatickými stěrači, nakláněním světlometů, vypínáním válců, automatickým zámkem kufru, airbagem ... chápu.

+3/−2
28.6.2016 16:35

L40u85k40á56š 84M34a37r69e40d62a 6121504817738

A taky by me zajimalo jestli by si nekdo z vas koupil auto, ktere se v krizove situaci rozhodne zabit vas, nez nekoho jineho?

+1/0
28.6.2016 7:47

J96o27s95e72f 85P71e30t46r77á40s16e90k 4154195657303

Člověk, pokud má čas na rozhodnutí bude spíš volit sobeckou variantu(já bych si sebevražedné auto taky nikdy nekoupil) ale troufám si tvrdit, že v okamžiku kdy mi před auto skočí člověk(nedejbože skupina chodců) automaticky to radši naperu do zdi. Myslím že tak je většina lidí biosu naprogramována..Co vy na to?

+1/0
27.6.2016 20:17

D96u79š15a24n 53M75a20t65o32u54š62e18k 7243790210305

Instinktivně uhnete,na nějaké kalkulování člověk nemá čas a není vybaven senzory,prostě instikty jsou pak silnější a uhýbáte před tím co máte v zorném poli,kdyby jste věděl a VIDĚL že uhnete JEN do zdi,tak neuhnete,jenže tuhle kalkulaci nestihnete provést,jednak instinkt uhnout,jednak stres....

Na tohle totiž musíte mít cílený a dlouhodobý trénink

+1/0
28.6.2016 15:35

D93a81n91i10e93l86a 89U60r77b84a24n82o91v11á 2884490595916

No je to logické bližší košile než kabát vlastní život je prostě většině lidí než životy cizích lidí. sice v sobě máme i toho Mirka dušína partyzány a podobně ale ta pudová živočišná reakce je zachránit sebe případně svá mláďata jako první. A právě v takových situacích většinou jednáme instinktivně není čas přemýšlet nad tím co je nebo není etické.

+1/0
27.6.2016 15:54

D80a59v10i75d 61R43y55c64h33e47t81s48k36ý 9126331830760

K tomu "problému, koho je správné zabít" je velmi zajímavá přednáška z Harvard University, je zdarma na youtube..

https://www.youtube.com/watch?v=kBdfcR-8hEY

0/0
27.6.2016 13:58

J25a40k68u59b 19Z88o53u46b67e61k 3365724302

Musíme počkat na chipy do hlavy. Auto zjistí, zda to chodec dělá schválně nebo ne. Ověří, zda má smysl takového člověka zachraňovat dle věku a zdraví. Poté se rozhodne ;-D Pokud půjde o atentát, tak je přejede. Problém bude, pokud bude mít zločinec hacknutý mozkový chip na zdravého sluníčkáře ;-D

+1/0
27.6.2016 11:51

J78o38s58e21f 58H18á34j73e18k 6898410709692

Z toho důvodu budou u krajnic po cca 100 m plně autonomní kulometné věže...:-)

+2/0
27.6.2016 12:36

L56u39k92á81š 28M90a13r80e67d89a 6141134727638

Tak to lze vyresit konfirmacnim dialogem ne?

-"Chcete zabit skupinku chodcu nebo sebe?"

-"Skupinku chodcu"

-"Opravdu si prejete zabit skupinku chodcui namisto sebe?"

-"Ano, ano, ano"

....

+1/0
27.6.2016 10:42

O59n93d81ř24e29j 56M46a74j18e19r49č76í63k 2957913152673

Přesně, a tak vyřeší problém, kdo za nehodu může: pokud uživatel vybral variantu "tank", tak je viníkem on, pokud variantu druhou, tak je viníkem výrobce :-) (chudák výrobce)

0/0
27.6.2016 10:47

T75o22m24a33s 80H31a82c41e50k 6374167885627

Jak muze byt vinikem nekdo kdo nema sanci vzniklou udalost nijak ovlivnit?

To je jako bych Vam navrhnul zda si pojistite cerneho Jeepa SPZ XYZ-1234 v Australii ktery nevlastnite a neridite. Ale pokud se vyboura pak byste za nej mel zaplatit. Pokud nemohu zasahovat do rizeni pak nemohu byt vinikem jakekoliv vznikle situace.

0/0
27.6.2016 14:55

T32o23m74á81š 90Ž70i66t15n87ý 6801950751641

Jak bylo řečeno - roboticka auta nechybuji. Vina bude v pripade takove komizni situace na 99.99% na strane toho chodce ktery se nahle ocitl pred autem. Je neeticke aby cizí chybu odnesl nevinny. Robot by tedy mel dle d. predpisu vyhodnotit viníka a pam maximálně chanut ostatní nevinne zúčastněné. Teprve pak se snažit minimalizovat následky pro viníka, ale BEZ dopadu pro nevinne.

0/0
27.6.2016 10:17

D69a64n41i90e19l31a 22U77r90b77a23n66o90v65á 2534440835206

Je pravda že to je docela zajímavá myšlenka která mne nenapadla..zahrnout do toho vinu za nehodu........co ale v případě že by vznikla technická závada na voze například selhaly brzdy, viníkem by byl výrobce vozu protože šlo o vadnou součástku kterou o řidič nemohl ovlivnit a měl by dojít se srážce s chodcem na přechodu....z hlediska silničních předpisů má chodec přednost.. nemůže za porucuh vozu, řidič také ne... jak tedy eticky rozhodnout?

0/0
27.6.2016 16:07

J52a81n 56S24o40u42k14u62p 1134214316865

A co když chyba vznikne někde jinde, než na straně toho chodce?

0/0
28.6.2016 0:09

J40i27ř56í 26Z60a27t98l59o27u84k75a84l 3408459601256

Řekl bych, že největší slabinou této teorie je předpoklad, že všichni účastníci se do té situace dostanou nějakou náhodou nebo chybou, že nikdo tak nebude jednat třeba záměrně. A teď si představte v lepším případě partu chuligánů, v horším třeba skupinu mafiánů, kteří se snaží někoho zabít. Pokud budou mít jistotu, že auto musí být nastaveno tak, aby jim vždy uhnulo a ohrozilo raději posádku, kde berete tu jistotu, že toho nikdo nezneužije, nevběhne takto záměrně v dostatečně velké skupině před auto a nezpůsobí tak nehodu a třeba i smrt jeho posádky?

+7/0
26.6.2016 23:38

P98e15t22r 69P13a69v53l93a17t54a 7346980857561

Jde o to, že ten princip "vyššího dobra" nebyl ani implementován. Tečka.

Dá se předpokládat, že to auto chybu (s velmi vysokou pravděpodobností) prostě neudělá. Proč by měl nést následky ten, který nic nezpůsobil.

Ok, sestřelí třeba několik cyklistů, co se proti všem pravidlům najednou vyřítilo na přechod ( a to se na některých místech u nás stává často). Ale to jen jejich chyba, oni poruší pravidla, oni mají nést následky. Bez ohledu na to, že jich třeba bude víc.

0/−1
26.6.2016 23:43

J28i11ř55í 14Z46a95t19l74o15u35k45a34l 3928679151716

Ale ten článek je zatím čistě teoretický. Jde o to, že pokud by ten princip "vyššího dobra" skutečně chtěl někdo prosadit a implementovat, je třeba vzít do úvahy i další okolnosti, že to, co se může na první pohled zdát jako správné a výhodné pro společnost jako celek, může být pro ni v konečném důsledku dost nevýhodné a nebezpečné.

+3/0
27.6.2016 0:18
Foto

P92e98t72r 69T65u74r38e36č97e64k 8162342987855

Velmi trefná připomínka. Banda loupežníků uvidí v dáli luxusní auto, hup na cestu, auto zabije majitele a loupežníci jen posbírají cennosti. Nejsmutnější na tom je, že jsou na světě "lidé", kteří by do toho šli.

0/0
28.6.2016 16:51

T34o78m76á84š 87R44e70k40t28o97r 1938304117939

Řešíte nesmysly, ty auta momentálně neřídí žádná umělá inteligence, tu zatím nezvládneme vytvořit ani omylem, řídí je program a tudíž jak zareaguje v něm nastaví tvůrci programu tedy lidé...

+1/−4
26.6.2016 23:05

T37o13m92á87š 74V73a44l62d79e74r 7753440729

Každou UI musíte nejdříve naprogramovat. Nyní záleží jak schopný je programátor.

+2/−1
26.6.2016 23:23

P44e16t31r 41P59a68v10l53a87t28a 7536820577111

Skutečná UI se programovat nebude, bude se programovat pouze její učení.

+2/0
26.6.2016 23:44

J24a44k12u25b 65D32o88l66a26n83s43k80ý 5907640794647

Jestli tomu dobře rozumím, tak to už takto s Google auty do jisté míry funguje.

0/0
28.6.2016 16:39

T84o55m66á66š 97V50a73l83d31e68r 7963680489

Nejdříve musíte naprogramovat vlastní program. To, že se bude učit určíte vy jako člověk. Možná někdy v budoucnu si budou psát roboti program sami ;-D ale zatím to není na pořadu dne. A to není programování, když programujete její učení? UI se na základě daných algoritmů dokáže vybrat nejlepší řešení a uložit jej do paměti a dlaší rozhodování už má více možností, přesto jede dle definovaných algoritmů. Výhodou je, že se dokáže poučit, což se o některých lidech nedá říci. :-) UI je program, jak takový program vznikne?;-)

0/0
28.6.2016 18:59

M84i48r15e26k 71G29a27j77e59r 5201226839770

Predevsim si nemyslim, ze samoriditelna auta budou nekdy jezdit po nasich velmi uzkych silnicich, kde se v nekterych mistech normalne nevyhnou ani dve stredne velka auta.

0/0
26.6.2016 19:51
Foto

P88a47v96e78l 76K44a72s33í42k96, 25T89e13c72h69n28e92t95.35c30z

Pokud se někdo vyhnout dokáže, tak právě samořiditelná auta :-)

+9/0
26.6.2016 20:04

J27a40n 44S38o63u28k44u61p 1864354456545

To je matematický kalkul, ale v realitě českých improvizovaných řešení nefunkční. Co když se ta dvě auta skutečně fyzicky nevyhnou, co se bude dít poté?

0/0
28.6.2016 0:12

K82a29r60e36l 85N52o91v62á94k 7251524518880

Nic, zastaví se a zavolaj si odtahovku.

+2/0
28.6.2016 9:37

D36a68n 56S57v59o65b23o85d63a 9590570125686

Nekoupil bych si auto ktere na ukor me a me posadky zachrani nahodne chodce. Pokud povezu manzelku a deti tak je jejich bezpecnost moji prioritou.

Software nemuze byt nastaven aby zachranoval podle poctu lidi (napr 5 opilcu na silnici je vic nez 4 clena rodina v aute)

+10/−1
26.6.2016 15:29

J24o57s98e21f 45R16i61c70h17t82e22r 9426415497143

aha. a co když je mezi těma chodcema taky něčí manželka a děti? kdyby tenhle problém měl tak jednoduchý zkratkovitý řešení jako nabízíte, tak to asi nemusíme řešit...

+1/−1
26.6.2016 16:45

J29a69n 12H34á26j38e44k 2626836783455

V autě, při rychlosti do 50 km/h, s dnešními bezpečnostními prvky, v pohodě čelní naraz přežijete. Bez dozivotnich důsledků. Což o čelním střetu s chodcem pro chodce není to samé. Proto i dnes bez robotiky, vyhnout se lidem. Zbytek udělají deformacni zóny, tuhost kabiny, atd.

+1/0
26.6.2016 17:32

P19e30t85r 96P21a17v19l45a39t12a 7876230197181

A budu to riskovat se svoji rodinu? Máte pravdu, že skoro jistě přežijete, ale s následky už to tak jednoznačné být nemusí. Zpomalení i z těch 50 na nulu na místě je příliš velké přetížení. Ani náhodou.

0/0
26.6.2016 18:38

J24a21n 69H19á49j33e51k 2136296193735

No tak v té samé situaci, pod kontrolou člověka, narazíte ne v 50 km/h rychlosti, ale ve vyšší, protože člověk reaguje pomaleji a ten čas chybí ve snížení rychlosti. A nenarazíte do překážky, ale do člověka, protože upřednostníte svoji rodinu ve vozu.

No, a pak si za zabití půjde na dva roky sednout. A to nemluvím o tom, že pozůstalí po Vás budou chtít finanční kompenzaci.

Fakt ta robotika je naho*no??

0/0
26.6.2016 18:47

P53e87t18r 53P21a53v89l22a42t24a 7956510467501

Raději si půjdu na dva roky sednout (což je IMHO nereálné, pokud jste bezúhoný a prokazatelně to nebyla Vaše chyba - jen jste nezatočil do zdi - dostanete podmínku, známé se to stalo - přejela v noci opilce na silnici), než být třeba zbytek života invalida, nebo někdo z mojí rodiny.

+2/0
26.6.2016 19:04

J76a69n 98H58á25j40e71k 2356166133145

No, ale přeci je tom, jak člověk či robot má ovládat auto tak, aby nenastalo ani jedno.

0/0
26.6.2016 19:43

P97e11t75r 92P27a68v32l68a72t63a 7516530147771

Celý článek je o tom, zda má mít automat možnost udělat akci proti zájmům majitele-posádky auta, v případě, že střet bude nevyhnutelný.

Ale osobně si myslím, že k rozhodování o "vyšším dobrou" nikdy nedojde, Americká justice se o to postará....

+1/0
26.6.2016 19:49

P11e28t81r 15P49a71v49l10a87t24a 7186940747221

A nakonec asi i volný trh, lidi o to očividně nestojí...

+1/0
26.6.2016 19:52







Najdete na iDNES.cz