Klávesové zkratky na tomto webu - základní­
Přeskočit hlavičku portálu


Diskuse k článku

Pro mě tank, pro ostatní Dušína. Vědci ukázali problém samořídících aut

Jak se má počítač rozhodnout v případě, že nelze zabránit ztrátám na životě? Vědci zkoumali vnímání klasického etického dilematu. První část výsledků je celkem očekávatelná: lidé chtějí, aby auta dělala etická rozhodnutí, pokud nejde o život zrovna jim. Důsledky tohoto měření jsou ale zajímavější.

Upozornění

Litujeme, ale tato diskuse byla uzavřena a již do ní nelze vkládat nové příspěvky.
Děkujeme za pochopení.

Zobrazit příspěvky: Všechny podle vláken Všechny podle času

L80e54n37a 38P63á34t65k37o48v51á 8761433124119

Povezu v autě děcko a automat rozhodne, ze statisticky je to menší ztráta pro lidstvo když umře? To tak, tudle nudle

0/0
30.6.2016 22:00

J28i24ř96í 77K75r32a29m83p28l 4576654716496

to je zajímavý problém. Pokud někdo naprogramuje algoritmus jehož výsledkem může být smrt člověka, tak nejedná se už záměrné zabití?

0/−1
29.6.2016 15:33

A68l50e86x26a77n52d35r 53Š71í61r 5271150563

Otázka do pranice: bude samořídicí auto jezdit tak (perfektně bezpečně, předvídavě, atd.), aby se do těch zcela výjimečných extrémních situací prakticky nedostávalo? (na rozdíl od živých řidičů) Pak by se ta rozhodovací dilemata jevila trochu jinak.

0/0
29.6.2016 11:12

J87i91ř94í 41O67u73k84r79o15p83e38c 5390668163659

Dle dosavadního testování a počtu momentálně najetých km se to Googlu zatím daří.

0/0
11.8.2016 15:08

J95i35r79i 71D91o84b96r85ý 9618359983

Podle podobne logiky je vlastne v poradku i kamikaze.

V pripade kamikaze jde o to, ze pilot znicenim lodi nepritele a obetovanim vlastniho zivota "zachrani" mnoho zivotu spolubojovniku.

Kdo z Vas by chtel auto "kamikaze", princip je stejny. Bud je princip vyssiho dobra dulezitejsi, a kamikaze je chvalihodny postup, nebo je to jinak?

PS: zavadeni autonomniho rizeni rychle nebude, tedy pokud se budeme drzet norem ISO26262 (ISO 61508) ktere se zabyvaji zajistenim zajisteni bezpecnosti rizeni. Vyrobit samoriditelne auto je celkem banalita ptoti nutnosti jeho bezpecnost prokazat a zdokumentovat aby to obstalo pri prvnim velkem prusvihu u soudu.

0/0
29.6.2016 10:18

H90o75n57z55a 62F79á72t28o44r 2379875864890

Pokud auto-Dušína bude využívat třeba i prezident USA, tak bych do toho šel. Ale něco mi říká, že on bude mít trochu jiný program v palubním počtači.

+2/0
28.6.2016 18:06
Foto

J90a85n 68Ž62i66ž57k86a 7218454692560

myslenka je to zajimava, dokud pocitac nevyhodnoti stado srnek jako skupinu lidi a neposle vas do stromu.

Auto bych si koupil jedine, kdyby me robot odvezl z hospody. Musel bych mit ale pravo veta na volant a brzdu.

za strizliva bych si nechal jen napovidat.

+1/0
28.6.2016 16:48

L46u80k54á23š 71F90l15í43d15r 9678821194328

"Méně prodaných samořídících aut by tak paradoxně znamenalo, že regulace, která měla zachránit více životů, jich tak nakonec více zmařila..."

Už jsem v jedné diskuzi na toto téma uváděl přesně takový argument, jako celý ten odstavec. Proto by posádka by měla mít vždy hlavní přednost a počítač by měl jen určit, která možnost -zároveň- ohrozí nejméně osob vně vozu.

Docela by mě zajímalo, jak vysoký stupeň ohrožení by byl přijatelný, jak pro posádku, tak i pro okolí.

V podstatě by se to dalo rozepsat na stupnici:

Bez škrábnutí - modřiny a šrámy - fraktury - riziko invalidity - úmrtí

plus možná i nějaké další stupně mezi, tohle je ostatně jen příklad. Já bych se třeba pro ochranu okolí obětoval klidně i do úrovně fraktury (včetně), ale riskovat invaliditu, natož pak úmrtí bych už určitě nechtěl.

0/0
28.6.2016 15:00

D59u30š58a66n 47M71a37t17o47u88š80e15k 7253430290145

Jenže tohle už je možná nespočitatelné,tzn bude tam vysoká míra neurčitosti.

Já bych soobně preferoval spíše rodinu než svůj život,prostě moji synové,žena za každou cenu,tohle je něco co půjde řešit jen velmi ztežka.

Logika věci je samozřejmě v nejmenším zlu ve smyslu všichni jsem si rovni,jenže to jsemm oprvadu zvědav kdo si to koupí.

Jediné řešení a k tomu dojde je donutit lidi legislativou....

0/0
28.6.2016 15:33

A48l87e54x16a10n19d80r 34Š58í56r 5531310543

Samořídící - špatně. Správně: samořídicí (přídavné jméno účelové). Sloveso je řídit, ne řídít. Stejně jako: honicí pes (= pes určený, vyšlechtěný k honění); a honící pes (= jakýkoliv pes, který právě honí). Samořídící auto = auto, které se právě řídí samo (někdo ho zapomněl na kopečku zabrzdit) - přídavné jméno dějové. Samořídicí = naprogramované k tomu, aby se řídilo samo (je takovým, i když stojí na místě a právě se neřídí).Také třeba spořicí účet. Balicí služba. Atd. Správně např. zde: http://www.forbes.cz/samoridici-auta-maji-problem-jsou-tak-dobra-ze-matou-lidi-a-bouraji/

+3/−1
28.6.2016 11:50
Foto

J81o31s17e76f 46L13e45o 97B30u72r73e41š 9490970911

Kdo tě učil mluvit česky? Samořídící je správně je to podle vzoru řídící, ostravaku.

0/0
5.7.2016 15:47

P73e17t55r 56D85v39o66r79a38k 3121320497499

Překlad popisu tří situací je chybný. Tam se nepíše o ohrožení, ale o ZABITÍ !!!

0/0
28.6.2016 11:35

K88a59r51e11l 95N45o24v25á51k 7781744248630

Auto, který bude na silnici rozhodovat za mě, bych si nikdy nekoupil, ať bude naprogramováno jakkoliv.

0/0
28.6.2016 9:38

J94a73k22u82b 55D35o86l41a34n11s78k76ý 5267120334477

Takže vlastně žádné auto novější roku 1960, nic s automatickou převodovkou, automatickými stěrači, nakláněním světlometů, vypínáním válců, automatickým zámkem kufru, airbagem ... chápu.

+3/−2
28.6.2016 16:35

L64u57k37á71š 38M60a73r65e88d30a 6701474507258

A taky by me zajimalo jestli by si nekdo z vas koupil auto, ktere se v krizove situaci rozhodne zabit vas, nez nekoho jineho?

+1/0
28.6.2016 7:47

J92o63s64e75f 86P41e15t40r34á49s72e78k 4634585717343

Člověk, pokud má čas na rozhodnutí bude spíš volit sobeckou variantu(já bych si sebevražedné auto taky nikdy nekoupil) ale troufám si tvrdit, že v okamžiku kdy mi před auto skočí člověk(nedejbože skupina chodců) automaticky to radši naperu do zdi. Myslím že tak je většina lidí biosu naprogramována..Co vy na to?

+1/0
27.6.2016 20:17

D79u42š89a76n 85M31a46t51o34u44š10e56k 7933340630485

Instinktivně uhnete,na nějaké kalkulování člověk nemá čas a není vybaven senzory,prostě instikty jsou pak silnější a uhýbáte před tím co máte v zorném poli,kdyby jste věděl a VIDĚL že uhnete JEN do zdi,tak neuhnete,jenže tuhle kalkulaci nestihnete provést,jednak instinkt uhnout,jednak stres....

Na tohle totiž musíte mít cílený a dlouhodobý trénink

+1/0
28.6.2016 15:35

D90a19n17i25e21l49a 25U91r41b33a33n87o97v58á 2954240925646

No je to logické bližší košile než kabát vlastní život je prostě většině lidí než životy cizích lidí. sice v sobě máme i toho Mirka dušína partyzány a podobně ale ta pudová živočišná reakce je zachránit sebe případně svá mláďata jako první. A právě v takových situacích většinou jednáme instinktivně není čas přemýšlet nad tím co je nebo není etické.

+1/0
27.6.2016 15:54

D50a37v56i72d 38R71y26c22h50e52t40s57k46ý 9986841330870

K tomu "problému, koho je správné zabít" je velmi zajímavá přednáška z Harvard University, je zdarma na youtube..

https://www.youtube.com/watch?v=kBdfcR-8hEY

0/0
27.6.2016 13:58

J54a50k56u22b 39Z27o97u44b62e96k 3585534752

Musíme počkat na chipy do hlavy. Auto zjistí, zda to chodec dělá schválně nebo ne. Ověří, zda má smysl takového člověka zachraňovat dle věku a zdraví. Poté se rozhodne ;-D Pokud půjde o atentát, tak je přejede. Problém bude, pokud bude mít zločinec hacknutý mozkový chip na zdravého sluníčkáře ;-D

+1/0
27.6.2016 11:51

J48o84s63e39f 82H36á91j27e79k 6458980989982

Z toho důvodu budou u krajnic po cca 100 m plně autonomní kulometné věže...:-)

+2/0
27.6.2016 12:36

L71u60k83á86š 33M12a73r70e50d72a 6451514217208

Tak to lze vyresit konfirmacnim dialogem ne?

-"Chcete zabit skupinku chodcu nebo sebe?"

-"Skupinku chodcu"

-"Opravdu si prejete zabit skupinku chodcui namisto sebe?"

-"Ano, ano, ano"

....

+1/0
27.6.2016 10:42

O58n38d75ř73e66j 68M74a13j55e93r17č25í58k 2417693732153

Přesně, a tak vyřeší problém, kdo za nehodu může: pokud uživatel vybral variantu "tank", tak je viníkem on, pokud variantu druhou, tak je viníkem výrobce :-) (chudák výrobce)

0/0
27.6.2016 10:47

T57o23m40a54s 46H60a74c73e55k 6784147965227

Jak muze byt vinikem nekdo kdo nema sanci vzniklou udalost nijak ovlivnit?

To je jako bych Vam navrhnul zda si pojistite cerneho Jeepa SPZ XYZ-1234 v Australii ktery nevlastnite a neridite. Ale pokud se vyboura pak byste za nej mel zaplatit. Pokud nemohu zasahovat do rizeni pak nemohu byt vinikem jakekoliv vznikle situace.

0/0
27.6.2016 14:55

T28o86m71á25š 43Ž87i14t70n41ý 6391330681151

Jak bylo řečeno - roboticka auta nechybuji. Vina bude v pripade takove komizni situace na 99.99% na strane toho chodce ktery se nahle ocitl pred autem. Je neeticke aby cizí chybu odnesl nevinny. Robot by tedy mel dle d. predpisu vyhodnotit viníka a pam maximálně chanut ostatní nevinne zúčastněné. Teprve pak se snažit minimalizovat následky pro viníka, ale BEZ dopadu pro nevinne.

0/0
27.6.2016 10:17

D88a78n18i53e42l10a 75U66r87b38a80n65o21v77á 2104100205896

Je pravda že to je docela zajímavá myšlenka která mne nenapadla..zahrnout do toho vinu za nehodu........co ale v případě že by vznikla technická závada na voze například selhaly brzdy, viníkem by byl výrobce vozu protože šlo o vadnou součástku kterou o řidič nemohl ovlivnit a měl by dojít se srážce s chodcem na přechodu....z hlediska silničních předpisů má chodec přednost.. nemůže za porucuh vozu, řidič také ne... jak tedy eticky rozhodnout?

0/0
27.6.2016 16:07

J70a16n 42S75o29u53k42u96p 1814684446255

A co když chyba vznikne někde jinde, než na straně toho chodce?

0/0
28.6.2016 0:09

J16i85ř40í 70Z95a64t12l45o14u30k54a40l 3588899591316

Řekl bych, že největší slabinou této teorie je předpoklad, že všichni účastníci se do té situace dostanou nějakou náhodou nebo chybou, že nikdo tak nebude jednat třeba záměrně. A teď si představte v lepším případě partu chuligánů, v horším třeba skupinu mafiánů, kteří se snaží někoho zabít. Pokud budou mít jistotu, že auto musí být nastaveno tak, aby jim vždy uhnulo a ohrozilo raději posádku, kde berete tu jistotu, že toho nikdo nezneužije, nevběhne takto záměrně v dostatečně velké skupině před auto a nezpůsobí tak nehodu a třeba i smrt jeho posádky?

+7/0
26.6.2016 23:38

P20e14t69r 30P49a62v61l72a23t59a 7636200447281

Jde o to, že ten princip "vyššího dobra" nebyl ani implementován. Tečka.

Dá se předpokládat, že to auto chybu (s velmi vysokou pravděpodobností) prostě neudělá. Proč by měl nést následky ten, který nic nezpůsobil.

Ok, sestřelí třeba několik cyklistů, co se proti všem pravidlům najednou vyřítilo na přechod ( a to se na některých místech u nás stává často). Ale to jen jejich chyba, oni poruší pravidla, oni mají nést následky. Bez ohledu na to, že jich třeba bude víc.

0/−1
26.6.2016 23:43

J17i32ř71í 55Z73a78t80l16o14u44k18a53l 3658849871456

Ale ten článek je zatím čistě teoretický. Jde o to, že pokud by ten princip "vyššího dobra" skutečně chtěl někdo prosadit a implementovat, je třeba vzít do úvahy i další okolnosti, že to, co se může na první pohled zdát jako správné a výhodné pro společnost jako celek, může být pro ni v konečném důsledku dost nevýhodné a nebezpečné.

+3/0
27.6.2016 0:18
Foto

P70e62t82r 74T70u64r73e93č43e53k 8332672577455

Velmi trefná připomínka. Banda loupežníků uvidí v dáli luxusní auto, hup na cestu, auto zabije majitele a loupežníci jen posbírají cennosti. Nejsmutnější na tom je, že jsou na světě "lidé", kteří by do toho šli.

0/0
28.6.2016 16:51

T10o90m10á84š 23R32e67k12t25o79r 1508144107359

Řešíte nesmysly, ty auta momentálně neřídí žádná umělá inteligence, tu zatím nezvládneme vytvořit ani omylem, řídí je program a tudíž jak zareaguje v něm nastaví tvůrci programu tedy lidé...

+1/−4
26.6.2016 23:05

T22o94m95á76š 83V77a87l11d37e68r 7563510579

Každou UI musíte nejdříve naprogramovat. Nyní záleží jak schopný je programátor.

+2/−1
26.6.2016 23:23

P76e22t29r 55P23a58v67l43a26t52a 7806710657761

Skutečná UI se programovat nebude, bude se programovat pouze její učení.

+2/0
26.6.2016 23:44

J67a46k12u34b 65D63o48l81a47n57s56k82ý 5787560984627

Jestli tomu dobře rozumím, tak to už takto s Google auty do jisté míry funguje.

0/0
28.6.2016 16:39

T40o37m70á74š 90V89a94l34d36e55r 7423900949

Nejdříve musíte naprogramovat vlastní program. To, že se bude učit určíte vy jako člověk. Možná někdy v budoucnu si budou psát roboti program sami ;-D ale zatím to není na pořadu dne. A to není programování, když programujete její učení? UI se na základě daných algoritmů dokáže vybrat nejlepší řešení a uložit jej do paměti a dlaší rozhodování už má více možností, přesto jede dle definovaných algoritmů. Výhodou je, že se dokáže poučit, což se o některých lidech nedá říci. :-) UI je program, jak takový program vznikne?;-)

0/0
28.6.2016 18:59

M51i24r14e28k 10G30a63j35e44r 5891876189940

Predevsim si nemyslim, ze samoriditelna auta budou nekdy jezdit po nasich velmi uzkych silnicich, kde se v nekterych mistech normalne nevyhnou ani dve stredne velka auta.

0/0
26.6.2016 19:51
Foto

P73a71v97e40l 78K20a44s63í22k52, 10T89e84c76h50n76e97t20.31c57z

Pokud se někdo vyhnout dokáže, tak právě samořiditelná auta :-)

+9/0
26.6.2016 20:04

J85a94n 42S51o63u77k36u44p 1374954476825

To je matematický kalkul, ale v realitě českých improvizovaných řešení nefunkční. Co když se ta dvě auta skutečně fyzicky nevyhnou, co se bude dít poté?

0/0
28.6.2016 0:12

K65a95r26e33l 36N95o75v31á56k 7411394718140

Nic, zastaví se a zavolaj si odtahovku.

+2/0
28.6.2016 9:37

D37a25n 52S23v57o45b79o65d59a 9180780385556

Nekoupil bych si auto ktere na ukor me a me posadky zachrani nahodne chodce. Pokud povezu manzelku a deti tak je jejich bezpecnost moji prioritou.

Software nemuze byt nastaven aby zachranoval podle poctu lidi (napr 5 opilcu na silnici je vic nez 4 clena rodina v aute)

+10/−1
26.6.2016 15:29

J75o10s82e98f 36R25i15c26h34t88e60r 9266505117433

aha. a co když je mezi těma chodcema taky něčí manželka a děti? kdyby tenhle problém měl tak jednoduchý zkratkovitý řešení jako nabízíte, tak to asi nemusíme řešit...

+1/−1
26.6.2016 16:45

J98a10n 53H64á70j47e35k 2626826313785

V autě, při rychlosti do 50 km/h, s dnešními bezpečnostními prvky, v pohodě čelní naraz přežijete. Bez dozivotnich důsledků. Což o čelním střetu s chodcem pro chodce není to samé. Proto i dnes bez robotiky, vyhnout se lidem. Zbytek udělají deformacni zóny, tuhost kabiny, atd.

+1/0
26.6.2016 17:32

P59e66t26r 15P86a46v94l79a30t75a 7486570157241

A budu to riskovat se svoji rodinu? Máte pravdu, že skoro jistě přežijete, ale s následky už to tak jednoznačné být nemusí. Zpomalení i z těch 50 na nulu na místě je příliš velké přetížení. Ani náhodou.

0/0
26.6.2016 18:38

J66a86n 13H35á91j95e17k 2446456663595

No tak v té samé situaci, pod kontrolou člověka, narazíte ne v 50 km/h rychlosti, ale ve vyšší, protože člověk reaguje pomaleji a ten čas chybí ve snížení rychlosti. A nenarazíte do překážky, ale do člověka, protože upřednostníte svoji rodinu ve vozu.

No, a pak si za zabití půjde na dva roky sednout. A to nemluvím o tom, že pozůstalí po Vás budou chtít finanční kompenzaci.

Fakt ta robotika je naho*no??

0/0
26.6.2016 18:47

P63e23t67r 18P49a46v98l76a57t64a 7476980287111

Raději si půjdu na dva roky sednout (což je IMHO nereálné, pokud jste bezúhoný a prokazatelně to nebyla Vaše chyba - jen jste nezatočil do zdi - dostanete podmínku, známé se to stalo - přejela v noci opilce na silnici), než být třeba zbytek života invalida, nebo někdo z mojí rodiny.

+2/0
26.6.2016 19:04

J23a31n 69H80á67j60e52k 2486506133595

No, ale přeci je tom, jak člověk či robot má ovládat auto tak, aby nenastalo ani jedno.

0/0
26.6.2016 19:43

P32e37t90r 35P70a25v31l59a55t32a 7326370717791

Celý článek je o tom, zda má mít automat možnost udělat akci proti zájmům majitele-posádky auta, v případě, že střet bude nevyhnutelný.

Ale osobně si myslím, že k rozhodování o "vyšším dobrou" nikdy nedojde, Americká justice se o to postará....

+1/0
26.6.2016 19:49

P38e48t79r 56P59a29v86l84a33t77a 7746460637761

A nakonec asi i volný trh, lidi o to očividně nestojí...

+1/0
26.6.2016 19:52







Najdete na iDNES.cz



mobilní verze
© 1999–2017 MAFRA, a. s., a dodavatelé Profimedia, Reuters, ČTK, AP. Jakékoliv užití obsahu včetně převzetí, šíření či dalšího zpřístupňování článků a fotografií je bez souhlasu MAFRA, a. s., zakázáno. Provozovatelem serveru iDNES.cz je MAFRA, a. s., se sídlem
Karla Engliše 519/11, 150 00 Praha 5, IČ: 45313351, zapsaná v obchodním rejstříku vedeném Městským soudem v Praze, oddíl B, vložka 1328. Vydavatelství MAFRA, a. s., je členem koncernu AGROFERT.