Klávesové zkratky na tomto webu - základní­
Přeskočit hlavičku portálu


Diskuse k článku

Pro mě tank, pro ostatní Dušína. Vědci ukázali problém samořídících aut

Jak se má počítač rozhodnout v případě, že nelze zabránit ztrátám na životě? Vědci zkoumali vnímání klasického etického dilematu. První část výsledků je celkem očekávatelná: lidé chtějí, aby auta dělala etická rozhodnutí, pokud nejde o život zrovna jim. Důsledky tohoto měření jsou ale zajímavější.

Upozornění

Litujeme, ale tato diskuse byla uzavřena a již do ní nelze vkládat nové příspěvky.
Děkujeme za pochopení.

Zobrazit příspěvky: Všechny podle vláken Všechny podle času

L56e42n86a 86P38á22t97k53o73v24á 8891483364939

Povezu v autě děcko a automat rozhodne, ze statisticky je to menší ztráta pro lidstvo když umře? To tak, tudle nudle

0/0
30.6.2016 22:00

J40i38ř61í 82K46r25a76m86p93l 4376424466426

to je zajímavý problém. Pokud někdo naprogramuje algoritmus jehož výsledkem může být smrt člověka, tak nejedná se už záměrné zabití?

0/−1
29.6.2016 15:33

A32l90e30x63a11n40d69r 85Š20í67r 5881160103

Otázka do pranice: bude samořídicí auto jezdit tak (perfektně bezpečně, předvídavě, atd.), aby se do těch zcela výjimečných extrémních situací prakticky nedostávalo? (na rozdíl od živých řidičů) Pak by se ta rozhodovací dilemata jevila trochu jinak.

0/0
29.6.2016 11:12

J67i15ř84í 41O37u14k87r67o42p35e63c 5860308923689

Dle dosavadního testování a počtu momentálně najetých km se to Googlu zatím daří.

0/0
11.8.2016 15:08

J48i59r53i 90D79o12b31r82ý 9928369473

Podle podobne logiky je vlastne v poradku i kamikaze.

V pripade kamikaze jde o to, ze pilot znicenim lodi nepritele a obetovanim vlastniho zivota "zachrani" mnoho zivotu spolubojovniku.

Kdo z Vas by chtel auto "kamikaze", princip je stejny. Bud je princip vyssiho dobra dulezitejsi, a kamikaze je chvalihodny postup, nebo je to jinak?

PS: zavadeni autonomniho rizeni rychle nebude, tedy pokud se budeme drzet norem ISO26262 (ISO 61508) ktere se zabyvaji zajistenim zajisteni bezpecnosti rizeni. Vyrobit samoriditelne auto je celkem banalita ptoti nutnosti jeho bezpecnost prokazat a zdokumentovat aby to obstalo pri prvnim velkem prusvihu u soudu.

0/0
29.6.2016 10:18

H95o34n54z28a 92F93á39t25o18r 2819195944150

Pokud auto-Dušína bude využívat třeba i prezident USA, tak bych do toho šel. Ale něco mi říká, že on bude mít trochu jiný program v palubním počtači.

+2/0
28.6.2016 18:06
Foto

J42a53n 37Ž88i64ž66k75a 7808474102460

myslenka je to zajimava, dokud pocitac nevyhodnoti stado srnek jako skupinu lidi a neposle vas do stromu.

Auto bych si koupil jedine, kdyby me robot odvezl z hospody. Musel bych mit ale pravo veta na volant a brzdu.

za strizliva bych si nechal jen napovidat.

+1/0
28.6.2016 16:48

L60u24k96á36š 96F46l31í90d15r 9898181634238

"Méně prodaných samořídících aut by tak paradoxně znamenalo, že regulace, která měla zachránit více životů, jich tak nakonec více zmařila..."

Už jsem v jedné diskuzi na toto téma uváděl přesně takový argument, jako celý ten odstavec. Proto by posádka by měla mít vždy hlavní přednost a počítač by měl jen určit, která možnost -zároveň- ohrozí nejméně osob vně vozu.

Docela by mě zajímalo, jak vysoký stupeň ohrožení by byl přijatelný, jak pro posádku, tak i pro okolí.

V podstatě by se to dalo rozepsat na stupnici:

Bez škrábnutí - modřiny a šrámy - fraktury - riziko invalidity - úmrtí

plus možná i nějaké další stupně mezi, tohle je ostatně jen příklad. Já bych se třeba pro ochranu okolí obětoval klidně i do úrovně fraktury (včetně), ale riskovat invaliditu, natož pak úmrtí bych už určitě nechtěl.

0/0
28.6.2016 15:00

D24u41š69a57n 14M83a85t38o63u47š58e35k 7733420270365

Jenže tohle už je možná nespočitatelné,tzn bude tam vysoká míra neurčitosti.

Já bych soobně preferoval spíše rodinu než svůj život,prostě moji synové,žena za každou cenu,tohle je něco co půjde řešit jen velmi ztežka.

Logika věci je samozřejmě v nejmenším zlu ve smyslu všichni jsem si rovni,jenže to jsemm oprvadu zvědav kdo si to koupí.

Jediné řešení a k tomu dojde je donutit lidi legislativou....

0/0
28.6.2016 15:33

A59l65e58x33a17n66d78r 95Š12í27r 5711600273

Samořídící - špatně. Správně: samořídicí (přídavné jméno účelové). Sloveso je řídit, ne řídít. Stejně jako: honicí pes (= pes určený, vyšlechtěný k honění); a honící pes (= jakýkoliv pes, který právě honí). Samořídící auto = auto, které se právě řídí samo (někdo ho zapomněl na kopečku zabrzdit) - přídavné jméno dějové. Samořídicí = naprogramované k tomu, aby se řídilo samo (je takovým, i když stojí na místě a právě se neřídí).Také třeba spořicí účet. Balicí služba. Atd. Správně např. zde: http://www.forbes.cz/samoridici-auta-maji-problem-jsou-tak-dobra-ze-matou-lidi-a-bouraji/

+3/−1
28.6.2016 11:50
Foto

J89o24s34e88f 24L73e33o 95B28u75r62e23š 9180960751

Kdo tě učil mluvit česky? Samořídící je správně je to podle vzoru řídící, ostravaku.

0/0
5.7.2016 15:47

P47e10t32r 14D14v63o54r33a59k 3391150567629

Překlad popisu tří situací je chybný. Tam se nepíše o ohrožení, ale o ZABITÍ !!!

0/0
28.6.2016 11:35

K13a57r11e94l 67N56o62v44á89k 7731584188270

Auto, který bude na silnici rozhodovat za mě, bych si nikdy nekoupil, ať bude naprogramováno jakkoliv.

0/0
28.6.2016 9:38

J69a32k73u88b 50D86o96l33a52n23s63k72ý 5467190334237

Takže vlastně žádné auto novější roku 1960, nic s automatickou převodovkou, automatickými stěrači, nakláněním světlometů, vypínáním válců, automatickým zámkem kufru, airbagem ... chápu.

+3/−2
28.6.2016 16:35

L43u63k29á16š 86M59a24r52e90d53a 6781574377428

A taky by me zajimalo jestli by si nekdo z vas koupil auto, ktere se v krizove situaci rozhodne zabit vas, nez nekoho jineho?

+1/0
28.6.2016 7:47

J59o87s50e50f 33P17e66t10r53á32s11e46k 4604445477313

Člověk, pokud má čas na rozhodnutí bude spíš volit sobeckou variantu(já bych si sebevražedné auto taky nikdy nekoupil) ale troufám si tvrdit, že v okamžiku kdy mi před auto skočí člověk(nedejbože skupina chodců) automaticky to radši naperu do zdi. Myslím že tak je většina lidí biosu naprogramována..Co vy na to?

+1/0
27.6.2016 20:17

D31u46š38a31n 56M20a39t12o39u20š17e30k 7963960180495

Instinktivně uhnete,na nějaké kalkulování člověk nemá čas a není vybaven senzory,prostě instikty jsou pak silnější a uhýbáte před tím co máte v zorném poli,kdyby jste věděl a VIDĚL že uhnete JEN do zdi,tak neuhnete,jenže tuhle kalkulaci nestihnete provést,jednak instinkt uhnout,jednak stres....

Na tohle totiž musíte mít cílený a dlouhodobý trénink

+1/0
28.6.2016 15:35

D94a19n63i74e31l94a 84U26r55b43a19n95o14v49á 2984790155696

No je to logické bližší košile než kabát vlastní život je prostě většině lidí než životy cizích lidí. sice v sobě máme i toho Mirka dušína partyzány a podobně ale ta pudová živočišná reakce je zachránit sebe případně svá mláďata jako první. A právě v takových situacích většinou jednáme instinktivně není čas přemýšlet nad tím co je nebo není etické.

+1/0
27.6.2016 15:54

D32a41v28i16d 85R49y58c47h20e22t98s46k12ý 9566241610500

K tomu "problému, koho je správné zabít" je velmi zajímavá přednáška z Harvard University, je zdarma na youtube..

https://www.youtube.com/watch?v=kBdfcR-8hEY

0/0
27.6.2016 13:58

J50a80k71u98b 35Z60o22u74b22e10k 3425974892

Musíme počkat na chipy do hlavy. Auto zjistí, zda to chodec dělá schválně nebo ne. Ověří, zda má smysl takového člověka zachraňovat dle věku a zdraví. Poté se rozhodne ;-D Pokud půjde o atentát, tak je přejede. Problém bude, pokud bude mít zločinec hacknutý mozkový chip na zdravého sluníčkáře ;-D

+1/0
27.6.2016 11:51

J21o37s25e37f 73H76á31j87e32k 6238260829842

Z toho důvodu budou u krajnic po cca 100 m plně autonomní kulometné věže...:-)

+2/0
27.6.2016 12:36

L72u26k19á40š 62M81a51r98e57d98a 6421694967798

Tak to lze vyresit konfirmacnim dialogem ne?

-"Chcete zabit skupinku chodcu nebo sebe?"

-"Skupinku chodcu"

-"Opravdu si prejete zabit skupinku chodcui namisto sebe?"

-"Ano, ano, ano"

....

+1/0
27.6.2016 10:42

O15n41d72ř48e25j 49M30a10j71e31r73č81í46k 2407613282663

Přesně, a tak vyřeší problém, kdo za nehodu může: pokud uživatel vybral variantu "tank", tak je viníkem on, pokud variantu druhou, tak je viníkem výrobce :-) (chudák výrobce)

0/0
27.6.2016 10:47

T54o25m49a87s 94H65a81c47e60k 6554897635387

Jak muze byt vinikem nekdo kdo nema sanci vzniklou udalost nijak ovlivnit?

To je jako bych Vam navrhnul zda si pojistite cerneho Jeepa SPZ XYZ-1234 v Australii ktery nevlastnite a neridite. Ale pokud se vyboura pak byste za nej mel zaplatit. Pokud nemohu zasahovat do rizeni pak nemohu byt vinikem jakekoliv vznikle situace.

0/0
27.6.2016 14:55

T81o67m76á95š 25Ž56i58t74n11ý 6431640711541

Jak bylo řečeno - roboticka auta nechybuji. Vina bude v pripade takove komizni situace na 99.99% na strane toho chodce ktery se nahle ocitl pred autem. Je neeticke aby cizí chybu odnesl nevinny. Robot by tedy mel dle d. predpisu vyhodnotit viníka a pam maximálně chanut ostatní nevinne zúčastněné. Teprve pak se snažit minimalizovat následky pro viníka, ale BEZ dopadu pro nevinne.

0/0
27.6.2016 10:17

D86a65n79i44e21l46a 39U41r86b53a56n90o19v75á 2904100635936

Je pravda že to je docela zajímavá myšlenka která mne nenapadla..zahrnout do toho vinu za nehodu........co ale v případě že by vznikla technická závada na voze například selhaly brzdy, viníkem by byl výrobce vozu protože šlo o vadnou součástku kterou o řidič nemohl ovlivnit a měl by dojít se srážce s chodcem na přechodu....z hlediska silničních předpisů má chodec přednost.. nemůže za porucuh vozu, řidič také ne... jak tedy eticky rozhodnout?

0/0
27.6.2016 16:07

J39a46n 43S49o16u15k50u25p 1154684916535

A co když chyba vznikne někde jinde, než na straně toho chodce?

0/0
28.6.2016 0:09

J81i83ř26í 50Z77a25t67l26o44u53k34a95l 3938249301156

Řekl bych, že největší slabinou této teorie je předpoklad, že všichni účastníci se do té situace dostanou nějakou náhodou nebo chybou, že nikdo tak nebude jednat třeba záměrně. A teď si představte v lepším případě partu chuligánů, v horším třeba skupinu mafiánů, kteří se snaží někoho zabít. Pokud budou mít jistotu, že auto musí být nastaveno tak, aby jim vždy uhnulo a ohrozilo raději posádku, kde berete tu jistotu, že toho nikdo nezneužije, nevběhne takto záměrně v dostatečně velké skupině před auto a nezpůsobí tak nehodu a třeba i smrt jeho posádky?

+7/0
26.6.2016 23:38

P80e67t73r 47P49a35v34l20a47t59a 7736920957401

Jde o to, že ten princip "vyššího dobra" nebyl ani implementován. Tečka.

Dá se předpokládat, že to auto chybu (s velmi vysokou pravděpodobností) prostě neudělá. Proč by měl nést následky ten, který nic nezpůsobil.

Ok, sestřelí třeba několik cyklistů, co se proti všem pravidlům najednou vyřítilo na přechod ( a to se na některých místech u nás stává často). Ale to jen jejich chyba, oni poruší pravidla, oni mají nést následky. Bez ohledu na to, že jich třeba bude víc.

0/−1
26.6.2016 23:43

J69i49ř43í 70Z71a74t68l96o75u42k46a58l 3848229471546

Ale ten článek je zatím čistě teoretický. Jde o to, že pokud by ten princip "vyššího dobra" skutečně chtěl někdo prosadit a implementovat, je třeba vzít do úvahy i další okolnosti, že to, co se může na první pohled zdát jako správné a výhodné pro společnost jako celek, může být pro ni v konečném důsledku dost nevýhodné a nebezpečné.

+3/0
27.6.2016 0:18
Foto

P90e84t45r 19T34u11r27e16č42e58k 8902392397645

Velmi trefná připomínka. Banda loupežníků uvidí v dáli luxusní auto, hup na cestu, auto zabije majitele a loupežníci jen posbírají cennosti. Nejsmutnější na tom je, že jsou na světě "lidé", kteří by do toho šli.

0/0
28.6.2016 16:51

T92o32m48á22š 63R55e60k52t57o39r 1468824907409

Řešíte nesmysly, ty auta momentálně neřídí žádná umělá inteligence, tu zatím nezvládneme vytvořit ani omylem, řídí je program a tudíž jak zareaguje v něm nastaví tvůrci programu tedy lidé...

+1/−4
26.6.2016 23:05

T89o49m22á72š 92V67a88l57d85e16r 7683320369

Každou UI musíte nejdříve naprogramovat. Nyní záleží jak schopný je programátor.

+2/−1
26.6.2016 23:23

P37e23t82r 38P67a20v49l23a20t72a 7576900927481

Skutečná UI se programovat nebude, bude se programovat pouze její učení.

+2/0
26.6.2016 23:44

J36a15k72u51b 19D85o15l52a19n78s66k46ý 5967130744617

Jestli tomu dobře rozumím, tak to už takto s Google auty do jisté míry funguje.

0/0
28.6.2016 16:39

T15o93m33á33š 25V44a56l17d25e80r 7903860789

Nejdříve musíte naprogramovat vlastní program. To, že se bude učit určíte vy jako člověk. Možná někdy v budoucnu si budou psát roboti program sami ;-D ale zatím to není na pořadu dne. A to není programování, když programujete její učení? UI se na základě daných algoritmů dokáže vybrat nejlepší řešení a uložit jej do paměti a dlaší rozhodování už má více možností, přesto jede dle definovaných algoritmů. Výhodou je, že se dokáže poučit, což se o některých lidech nedá říci. :-) UI je program, jak takový program vznikne?;-)

0/0
28.6.2016 18:59

M76i63r80e10k 29G61a52j22e64r 5591456319840

Predevsim si nemyslim, ze samoriditelna auta budou nekdy jezdit po nasich velmi uzkych silnicich, kde se v nekterych mistech normalne nevyhnou ani dve stredne velka auta.

0/0
26.6.2016 19:51
Foto

P14a14v71e30l 23K45a48s57í66k63, 66T68e32c91h57n65e35t37.93c28z

Pokud se někdo vyhnout dokáže, tak právě samořiditelná auta :-)

+9/0
26.6.2016 20:04

J72a41n 24S84o46u76k51u31p 1484504436875

To je matematický kalkul, ale v realitě českých improvizovaných řešení nefunkční. Co když se ta dvě auta skutečně fyzicky nevyhnou, co se bude dít poté?

0/0
28.6.2016 0:12

K12a39r39e51l 45N93o67v55á47k 7311204108230

Nic, zastaví se a zavolaj si odtahovku.

+2/0
28.6.2016 9:37

D40a95n 68S93v56o38b31o50d13a 9210710885856

Nekoupil bych si auto ktere na ukor me a me posadky zachrani nahodne chodce. Pokud povezu manzelku a deti tak je jejich bezpecnost moji prioritou.

Software nemuze byt nastaven aby zachranoval podle poctu lidi (napr 5 opilcu na silnici je vic nez 4 clena rodina v aute)

+10/−1
26.6.2016 15:29

J83o45s93e26f 18R25i29c78h65t92e62r 9156305417693

aha. a co když je mezi těma chodcema taky něčí manželka a děti? kdyby tenhle problém měl tak jednoduchý zkratkovitý řešení jako nabízíte, tak to asi nemusíme řešit...

+1/−1
26.6.2016 16:45

J48a79n 50H31á23j70e15k 2806816373915

V autě, při rychlosti do 50 km/h, s dnešními bezpečnostními prvky, v pohodě čelní naraz přežijete. Bez dozivotnich důsledků. Což o čelním střetu s chodcem pro chodce není to samé. Proto i dnes bez robotiky, vyhnout se lidem. Zbytek udělají deformacni zóny, tuhost kabiny, atd.

+1/0
26.6.2016 17:32

P21e22t46r 98P27a67v62l58a20t31a 7616310237931

A budu to riskovat se svoji rodinu? Máte pravdu, že skoro jistě přežijete, ale s následky už to tak jednoznačné být nemusí. Zpomalení i z těch 50 na nulu na místě je příliš velké přetížení. Ani náhodou.

0/0
26.6.2016 18:38

J79a44n 73H13á16j87e36k 2966606123325

No tak v té samé situaci, pod kontrolou člověka, narazíte ne v 50 km/h rychlosti, ale ve vyšší, protože člověk reaguje pomaleji a ten čas chybí ve snížení rychlosti. A nenarazíte do překážky, ale do člověka, protože upřednostníte svoji rodinu ve vozu.

No, a pak si za zabití půjde na dva roky sednout. A to nemluvím o tom, že pozůstalí po Vás budou chtít finanční kompenzaci.

Fakt ta robotika je naho*no??

0/0
26.6.2016 18:47

P70e49t75r 25P77a64v22l88a26t14a 7176420667741

Raději si půjdu na dva roky sednout (což je IMHO nereálné, pokud jste bezúhoný a prokazatelně to nebyla Vaše chyba - jen jste nezatočil do zdi - dostanete podmínku, známé se to stalo - přejela v noci opilce na silnici), než být třeba zbytek života invalida, nebo někdo z mojí rodiny.

+2/0
26.6.2016 19:04

J93a52n 70H30á48j85e58k 2376376433365

No, ale přeci je tom, jak člověk či robot má ovládat auto tak, aby nenastalo ani jedno.

0/0
26.6.2016 19:43

P40e76t74r 48P64a24v60l43a75t56a 7276860437411

Celý článek je o tom, zda má mít automat možnost udělat akci proti zájmům majitele-posádky auta, v případě, že střet bude nevyhnutelný.

Ale osobně si myslím, že k rozhodování o "vyšším dobrou" nikdy nedojde, Americká justice se o to postará....

+1/0
26.6.2016 19:49

P66e49t41r 95P89a72v11l17a38t22a 7446650757221

A nakonec asi i volný trh, lidi o to očividně nestojí...

+1/0
26.6.2016 19:52







Najdete na iDNES.cz