Klávesové zkratky na tomto webu - základní­
Přeskočit hlavičku portálu


Diskuse k článku

Největší problém umělé inteligence: nelze zjistit, „proč“ se rozhodla

Umělá inteligence a strojové učení jsou budoucností průmyslu. Přináší však s sebou problémy, které zatím v oblasti počítačových systémů nebylo potřeba řešit.

Upozornění

Litujeme, ale tato diskuse byla uzavřena a již do ní nelze vkládat nové příspěvky.
Děkujeme za pochopení.

Zobrazit příspěvky: Všechny podle vláken Všechny podle času

M59a24r79t31i19n 42P15o87d80h16o91r43s72k57ý 4145101929413

To je zas diskuze. Nejhlasitější bijci proti korektnosti jsou od reality stejně daleko jako hyperkorektní proud, který kritizují. AI prostě jede podle podle svého nastavení a pokud nezná kontext, tak může klidně převzít setrvačnost a předsudky prostředí, ve kterém operuje. U ženy z muslimské země se bude pozastavovat nad její snahou získat lepší vzdělání, čechovi nabídne podle zvyklosti ve stejné firmě, lokalitě a profesi hůře placenou práci než němcovi a od člena etnika, který byl vystěhován do chudších oblastí, kde měla jeho rodina horší startovní pozici, bude očekávat méně.

0/0
5.11.2017 1:01

M25i54c56h95a64l 54D51i41v81i89š 3201148543101

Pokud se ovsem jednalo o bankovni data, kde se resil kredit klienta, tedy rekneme neco jako bonita klienta, a dostavaji stejna data a proste urcite skupiny at uz rozdilne rasove, dle pohlavi ci nabozentsvi, proste maji v prumeru horsi bonitu, tak prece system neni rasisticky tomu je to asi uplne jedno. Proste je vyhodi vystupni data jak to je. To ze se nejake spolecnosti nelibi, ze horsi statistiky maji jine nabozenske skupiny od jinych nebo ruzna pohlavi, tak to je sice smutne, ale nic by se s tim nemelo delat a smirit se s tim, ze tak to proste je, nebo resi to tak, ze jim to teda umele navysime, aby to nebylo diskriminacni, zacnete tim diskriminovat tu druhou stranu. Proste je treba veci brat tak jak sou.

0/0
5.11.2017 11:53

E36d56u74a27r51d 46D48r13á83b29e39k 7387753699539

Finanční institutce do testovacího provozunasadila systém využívající strojové učení, který určoval kreditní skóre jednotlivých klientů. No a tento systém začal postupně některé klienty prokazatelně diskriminovat - na základě pohlaví, náboženství a rasy............................. a největší fór by, že do systému informace o pohlaví, náboženství a rase vůbec nikdo nevložil :-)

Zdroj: https://technet.idnes.cz/umela-inteligence-problem-rozhodovani-dye-/tec_technika.aspx?c=A170619_094905_tec_technika_nyv

+1/0
4.11.2017 18:57
Foto

F91r54a33n89t85i22š84e16k 94K68š37í88r 2379516935

Práce bude pořád dost i když tu bude umělá inteligence.

0/0
3.11.2017 16:58

P82e35t15r 64H85á97l40a 6624636535376

Stroj zacal prokazatelne diskriminovat? Takze zacal cernochum a muslimum davat prilis nizke kreditni skore, a jasne se prokazalo, ze cernoch se stejnym kreditnim skore jako beloch ma ve skutecnosti lepsi platebni moralku? Nebo proste maji cernosi horsi platebni moralku? To ale neni zadna diskriminace, pokud je to proste fakt!

+1/0
3.11.2017 11:49

E41d34u27a67r87d 84D96r49á36b66e29k 7277413259309

problém je, že i pokud se ukáže, že více černochů než bělochů má horší platební morálku, tak pokud se rozhodnete, že černochům budete dávat "preventivně" horší úvěry, "protože seš černej voe", tak je to považováno za diskriminaci. A je to tak správně. Černoch nemůže za to, že někteří další černoši neplatí a neměly by pro něj automaticky platit horší podmínky.

0/0
4.11.2017 19:00

J61a15r88o61s19l96a18v 10V92a33c72e88k 1712232382906

Hlavní překážkou UI byl, je a dlouho bude výpočetní výkon. Většina úloh je NP-těžkých. Takže současné počítače nemají v principu šanci.

0/0
1.11.2017 21:02

D78a62v54i86d 66D47i16r82g39a 7485101848

Třeba které?

0/0
2.11.2017 15:24

M74i65c93h89a43l 34C91h51a10l53u56p28a 6408410929933

UI znamená uživatelské rozhraní, české zkratky se v tomhle myslím moc nepoužívají, protože je to pak zavádějící a může to znamenat něco jiného. Jinak třeba u neuronových sítí je pomalé učení, vykonávání naučeného modelu je mnohem rychlejší. Vyrobit video je taky časově náročnější než jej jenom přehrávat.

+1/−1
2.11.2017 20:27

E98d23u83a20r45d 86D66r72á54b57e81k 7547323589229

UI znaemná umělá intelitence (AI)

0/0
4.11.2017 19:00

M18i22c43h44a98l 43C39h63a78l70u37p46a 6328430239543

Jo, ale prakticky se ty zkratky z češtiny moc nepoužívají, většinou z angličtiny. Takže UI je uživatelské rozhraní a AI umělá inteligence. Pokud to je někde ve větě, tak většina lidí bude předpokládat ty anglické.

0/0
4.11.2017 19:20

M73a53r17t69i55n 38Z64i96k17m92u48n41d 7605795694921

Výpočetní výkon je problém, ale hlavní překážkou je poskytnout AI dostatečný model světa. To nám pořád moc nejde. Umělá inteligence dokáže porazit velmistra v go, ale sama vlastně neví, že hraje. Stejně tak autonomní auta nevědí, že jedou po ulici.

0/0
3.11.2017 14:55

M87i44c44h83a95l 42D59i64v44i43š 3231818973641

Tak to jsou zacatky, az prijde sebeuvedomeni, myslim, ze uz nas nebude potreba.

0/0
5.11.2017 11:59

M32a58r98t83i38n 46Z61i13k83m53u24n35d 7515595114771

A to je právě ono. My pořád předpokládáme / doufáme / bojíme se, že sebeuvědomění je přirozený důsledek. Ale sami jo neumíme definovat, natož identifikovat. Věda ani nemá definici reality, protože je to ve výsledku irelevantní.

0/0
5.11.2017 12:03

P83e19t77r 49N12o87v58á27k 3223236884714

No možná je to tím, že programátoři velmi často používají funkci generování náhodných čísel... ;-D;-D;-)

+1/0
1.11.2017 15:04

P36e42t55r 66N42o84v44á49k 3563326424174

;-D No tak každá umělá inteligence se řídí instrukcemi. Je otázkou tedy kdo a jak tam ty instrukce či podmínky zapsal. ...

Jinak chápu, že to "nelze" zjistit, protože procesory zvádají miliardy operací za milisekundu, zatímco člověk možná ani ne jednu...Takže to fakt nezjistíme.;-D

+1/0
1.11.2017 15:01

F88r13a90n29t58i54š81e57k 86O59s33t44r42ý 4955751737403

No to právě tak není, že by se rozhodovala podle instrukcí.

Ani rychlost není to zásadní. Ten problém je, ža ta informace v neuronové síti není. Samozřejmě by šlo zjistit, jak se který neuron přepnul, ale nelze dobře zjistit, proč. Musel by se zopakovat celý proces učení se stejnými daty, což je prakticky neuskutečnitelné.

Samozřejmě, jak už tu bylo zmíněno, se řada firem snaží o implementaci nějaké diagnostiky. Ale asi nikdy to nebude stoprocentní.

0/−1
1.11.2017 15:06

M86i69c49h73a35l 69C38h86a81l50u16p20a 6538540519123

Nechápu, prč mínusy, asi to na někoho bylo příliš složité :-).

I to naučení lze udělat na základě stejných dat. Jenže úplně stejné to asi stejně nebude - u těchto algoritmů se může sít inicializovat do určité míry náhodnými čísly, něco se na začátku nastavit musí. A jeden neuron ani nemusí dělat jednu věc, takže změna výstupu se může projevit na víc místech třeba.

0/0
2.11.2017 20:31

M87i46c20h67a10l 72C39h65a11l21u12p96a 6228700659203

Jenže tady instrukce nejsou. Představte si to jako soustavu rovnic, která má třeba tisíce proměnných, ty se vynásobí různými koeficienty, posčítají atd a z toho vypadne hromada čísel. Učení spočívá v hledání takových koeficientů, aby pro známá čísla na vstupu vypadla taková čísla, jaká jsou potřeba (pak už záleží na interpretaci, třeba vypadne jedno číslo, které říká, jaká je pravděpodobnost, že na fotce je třeba něčí babička). Pokud se to udělá dobře, tak to pak dává výsledky i pro čísla, na kterých se to neučilo. Problém je, že těžko pak někdo dokáže říct, proč koeficient na pozici 5 tisíc je zrovna takový a co se stane, kdyby se změnil o jednu setinu. Může to něco opravit, začne to dělat něco jiného nebo se to celé rozsype.

0/0
2.11.2017 20:36

J13a62r86o82s67l81a29v 74D14r47o17z47d 6713139410187

Ke čtení článku doporučuji pustit si trochu tématické hudby:

https://www.youtube.com/watch?v=pVZ2NShfCE8

0/0
1.11.2017 11:45

R31o55m95a84n 18S72t66r56a14j47t 8626328725254

Diskriminace je v pořádku, tu si různá etnika zasloužila sama. Závažnější problém je úplně jinde a to rozhodování v kritických situacích kdy jde o zdraví. Samořídící automobil může mít v případě kolize např. dvě možnosti a již v okamžiku rozhodování může předjímat, že varianta jedna zachrání posádku ale způsobí zranění jiným lidem, nebo to bude naopak. Kdo nastaví priority a kdo za ně bude trestně zodpovědný ?

+1/0
1.11.2017 7:07

E25d25u39a13r57d 66D71r82á30b68e71k 7167303929359

Nebo vám AI řekne, že je nutné do 24 hodin odpálit jaderné rakety na Koreu a zaboha vám neřekne proč :) A vy víte akorát to, že měla k dispozici všechny informace světa a je "chytřejší než vy". Poslechnete, neposlechnete...:-) Co když na základě zjištěných informací naopak začla fandit korejcům a je to blaf? ;-D

0/0
4.11.2017 19:15

I66v62a69n 13B80u51b26l84a 3572475455154

Budou inteligentní stroje, nebudou potřeba inteligentní lidi. Teď už chápu proč už v předstihu z nás dělají blbce.

+2/−1
31.10.2017 20:53

Š82t44ě15p58á56n 58V87a31n76ě44k 3243459697347

Velmi zajímavý článek. Nechystáte nějaký ucelenější seriál?

+1/0
31.10.2017 20:14

M10i85l34a78n 86V79o41l88e51k 5779583516309

'Inteligence' způsobená vahami mezi uzly se samozřejmě analyzovat dá, ale kdo by se s tím dělal?

+1/−1
31.10.2017 18:25

M97i39r67e91k 66G51a83j36e77r 5701226229270

Kdyby to slo, tak tu analyzu zase muze delat pocitac.

0/0
31.10.2017 18:31

D98a25v89i52d 26D10i77r79g64a 7915161708

Spíš co s tím. Budete vědět, na kterém uzlu se to dalo kterým směrem, ale co vám pomůže informace, že nejvyšší kreditní skore má v rámci stejné výše příjmů zrovna člověk se jménem o délce deset písmen začínajícím na J ve věku mezi 52 a 54 lety?

+1/0
1.11.2017 0:09

M66i14l25a40n 66V55o17l35e59k 5579623846779

Takže jste nikdy neuronovou síť neprogramoval ani neučil...

+1/0
1.11.2017 21:10

D71a60v42i56d 38D73i21r60g86a 7635511468

Máte pravdu. A máte i tu implikovanou pravdu, že jsem to nemístně zjednodušil.

+1/0
2.11.2017 15:25

M34i76c80h70a65l 15C32h96a34l62u35p52a 6688310639863

Jenže opravit to lidi podle mě stejně moc nedokážou. Ty neuronové sítě se používají především pro řešení problémů, které nikdo řešit spolehlivě neumí nebo je to šíleně pracné. Takže zcela pochopit tu síť nebo ji dokonce dokázat ručně opravit mi vychází jako náročnější, než ten původní problém. Prostě by bylo jednodušší řešit ten původní problém klasickým způsobem.

+1/0
2.11.2017 20:39

M61i68l45a40n 22V79o64l66e31k 5509903806559

To je otázka. Podle mě by stálo za to analyzovat naučenou neuronovou síť právě proto, abychom pochopili závislosti pro klasické řešení. To ovšem vyžaduje i optimálně navrženou síť, kde se k výsledku může dostat jen jednou cestou.

0/0
4.11.2017 8:24

M82i12c61h78a16l 89C74h45a68l53u34p65a 6598250469183

ta sit je ale univerzalni reseni, zvladne delat to, na cem se naucila, takze ta slozita analyza by resila akorat to, na cem se to ucilo. A jednodussi bude znovu pustit uceni pro dalsich x tisic vstupnich dat, nez to resit rucne. A ta vysledna sit ani nemusi byt optimalni reseni, staci, ze nejak funguje.

0/0
4.11.2017 10:16

Z34d74e85n58ě91k 50V33o38d65á69k 7195596297742

UI jednou zajistí světový mír.

Když se jí dá za úkol obrana. Zjistí, že nejlepší řešení lokálních i globálních konfliktů je eliminace těch agresivních vyspělejších opic co války vždy v historii rozpoutali

0/0
31.10.2017 16:36

D34a76v23i31d 10D56i46r78g56a 7275271188

Postupně se tak do pozice agresivních vyspělejších opic budou dostávat ty méně agresivní a vyspělé, až daný UI vyhubí celé lidstvo.

Myslím, že tohle není správná cesta.

+3/0
1.11.2017 0:06

J43a79r79o96s43l56a93v 95N75e14d31o63m42a 3780330222463

Tak že film Terminátor byl vlastně hodně vizionářský....

+2/0
1.11.2017 7:38
Foto

M79a25r26t93i29n 57F52a37l24t89ý70n 9931776564678

A Asimov se svými zákony robotiky může jít... víte kam!

Respektive by musel vytvořit 11. zákon (11. přikázání už máme, jesltipak víte, které to je?). Smělci se mohou pokusit o jeho - 11. zákona - definici ;-D

0/−2
31.10.2017 16:23

M50i57c70h52a41l 32C22h25a62l53u69p12a 6238790529753

Proč 11.? Asimov si vystačil se čtyřmi...

0/0
2.11.2017 20:41

M43a10r98t40i11n 33Z87i85k36m51u81n52d 7845985274281

Asimovy knihy jsou založeny na faktu, že zákony robotiky nefungují :)

+2/0
3.11.2017 15:01
Foto

L45u80k15á71š 35N90o88v33o63t61n72ý 6336267438718

Jak může být diskriminační něco, co je založeno na objektivních datech? Diskriminace je čistě subjektivní např. že dám ženské menší plat, protože je to ženská. Pokud ale z objektivních (tvrdých) dat vyjde, že např. muslimové jsou rizikovější ve splácení úvěrů, pak je to na stejné úrovni jako když dám nižší kreditní ohodnocení člověku se základkou než někomu s vysokou, protože na základě dostupných dat lidé se základkou splácí hůře.

+9/−1
31.10.2017 15:55
Foto

M84a47r55t70i93n 46F55a44l61t71ý43n 9101586794378

Možná to nakonec bude posuzovat nějaký "Robot - Sluníčkář" ;-D

0/0
31.10.2017 16:21
Foto

P25a45v34e34l 31K18a18s26í83k53, 76T44e78c37h10n71e52t63.66c43z

Pozor, to je častý omyl. I diskriminace na základě dat je stále diskriminací a je překážkou rovným příležitostem. Například pokud bych měl data o tom, že lidé s křestním jménem Lukáš mají - statisticky vzato - horší znalosti pravopisu, než lidé s křestním jménem Tomáš, mohl bych říci: "Lukáš Novotný, to ani nebudu číst, to bude určitě nečitelné." Tedy na základě "objektivních dat" bych vás diskriminoval, nedal bych vám rovnou příležitost. To je ten zásadní argument - diskriminace není špatná proto, že nevychází z dat (i když někdy skutečně z dat nevychází). Diskriminace je špatná proto, že porušuje princip rovné příležitosti nebo rovného přístupu. Řečeno úplně polopaticky: když bude dvakrát trestaný zloděl obviněn z toho, že něco ukradl, máme docela dobrá data o tom, že je to zloděj. Přesto ale musíme hledat důkazy pro to, že tu věc skutečně ukradl, a nelze ho odsoudit jen za to, že kradl v minulosti, tak určitě kradl i tentokrát. To by porušilo zásadu rovného přístupu ke spravedlnosti, což je princip, který každý ocení ve chvíli, kdy se ocitne v situaci, kdy hrozí nefér zacházení jemu.

+9/−4
31.10.2017 16:52

W95a24l14t80e71r 11D28i43v37i34š 6427192942472

Troufl bych si tvrdit, že tady jde o chybu v úvaze.

Pokud budu hodnotit (nastavím hodnocení) podle chybného, nedostatečného nebo zkresleného parametru, pak nutně dostanu nepoužitelný výstup, ale netvrdil, že výstup je diskriminační. Výstup nějakého předem stanoveného algoritmu nemůže nikdy být diskriminací. Diskriminací je nastavení algoritmu, určení, že zrovna tento parametr bude hodnocen apod.

Tedy pokud jste na začátku nastavil chybné (diskriminační) pravidlo, pak zcela nutně dostanete takový výsledek. A to nikoli na základě dat, ale na základě zvoleného hodnocení.

A zcela na okraj - myslím, že v rámci hodnocení a výstupů AI je vůbec chybou mluvit o diskriminaci. Diskriminace je v náš vlastní vynález, je to jen hodnocení, které není neutrální, ale zabarvené (emočně? morálně? eticky?). Zatímco současné AI dávají výstup čistě neutrální, nediskriminační, prostě jen vyhodnotí dodaná data dle naprogramovaných postupů - v případě neurálních sítí pak naprogramovaného postupu učení a dodaných dat, které výsledek tvoří společně. Nicméně stále nelze mluvit o diskriminaci, ale pouze o neutrálním výsledku.

+8/−1
31.10.2017 17:17

O26n47d98ř94e35j 63Z68e62m12a92n 5590674278449

Tak problém je, že se v případě popsaném v článku nejedná o předem stanovený algoritmus, ten program to nevyhodnocuje dle naprogramovaných postupů, jinak by se dalo přesně určit, proč to tak vyhodnotil.

+1/0
31.10.2017 18:03

T28o79m43á25š 82Z22e21m63a61n 3325128734805

Nelze určit JAK to vyhodnotil, ale docela dobře lze určit PROČ.

+1/−1
31.10.2017 18:13

M91i51r44e80k 96G61a89j10e75r 5271106969790

Ty postupy jsou samozrejme naprogramovane, ne ze ne. Ale k tomu vysledku proste vede souhrn velkeho mnoztsvi dat a my nedokazeme nijak nebo nijak snadno urcit, jakou "roli" jednotliva data hraji.

+1/−1
31.10.2017 18:35
Foto

P93a31v54e23l 53K66a38s24í57k89, 27T36e82c36h61n84e75t92.60c81z

Chápu, co říkáte, ale máte jinou definici slova "diskriminace", než já. Vy diskriminaci přičítáte "úmysl" - a proto říkáte, že AI nemůže diskriminovat. Ale diskriminace nemusí být jen úmyslná, naopak, velmi často je neúmyslná. I u lidí. Právě proto je tak těžké o diskriminaci mluvit. Lidé, kteří jsou osočení například z rasové diskriminace, v tom slyší obvinění z toho, že jsou úmyslně rasisté. Ale diskriminace je mnohem častěji neúmyslná, podvědomá, systematická apod. Příklad: učitelé matematiky dávají chlapcům za stejné odpovědi v testech lepší známky, než dívkám. Pokud se jméno skryje, tato diskriminace zmizí. To neznamená, že ten učitel "úmyslně" diskriminoval, přesto došlo k diskriminaci. A to samé u složitých neuronových sítí.

+2/0
2.11.2017 15:08

M76i21r66e22k 62G15a37j43e23r 5111786459440

Ani takto umela inteligence nefunguje. Data se rozdeluji na "treninkova" a "testovaci." Toto rozdeleni se dela nahodne a mnohokrat. Az kdyby skutecne platilo i na datech, na kterych ta neuronova sit nebyla natrenovana, ze porad plati o Lukáších ty horší znalosti pravopisu, pak by se ta umela inteligence mohla rozhodnout, jak pisete. Dalo by se to cekat treba u krestniho jmena Dežo, kde ta kauzalni spojitost skutecne je. Diskriminacni by to nebylo, protoze nejde o diskriminaci na zaklade barvy kuze, kterou si clovek nemuze bezne zmenit. Jmeno zmenit jde a mnozi byvali Čurdové by vam to mohli osvetlit.

Jo a udelejte si pruzkum, kolik lidi spravne rozumi pojmu "rasova diskriminace." Vetsina v tom ma uplny zmatek, nevi, co je protizakonne a co neni. Pak je tezke dodrzovat zakony spravne a take spravne trestat ty, kdo je porusuji. Mnoho lidi se domniva, ze je neco diskriminacni a pritom to neni pravda nebo to alespon neni nic protipravniho.

0/−1
31.10.2017 18:03

T87o90m65á50š 17Z64e72m59a33n 3115348184975

Pokud by tu ta příčinná souvislost byla.

Ale není. Leda by by šlo o jméno častější u nějaké opravdu odlišné skupiny obyvatel.

Naopak u ras/náboženství/pohlaví tu souvislost je. Lidé, kteří z náboženských důvodů musí dělat XY a naopak nesmí YX, nemohou být stejní, jako lidé bez této zátěže.

A k tomu zloději - člověku, který spáchá úvěrový/pojistný podvod už nikdo službu neposkytne a nebo za "diskriminačních" podmínek, přestože zrovna teď nepodvádí.

Obecně mi přijde, že často směšujete, pane Kasíku, jevy náhodné (např. gramatika/jméno) a jevy, které nutně musí mít souvislost (náboženství/jednání).

+2/−2
31.10.2017 18:11

M69i10c14h33a82l 65C28h30a68l36u18p91a 6178260339243

Jenže takováhle data byste z normální společnosti nejspíš neměl dostat - pokud je distribuce lidí se špatnou znalostí pravopisu rovnoměrná a stejně tak i výskyt jmen, tak těch Lukášů s neznalostí pravopisu bude podobně, jako třeba Pavlů.

0/0
2.11.2017 20:45

E22d77u53a81r47d 91D70r20á77b20e30k 7117583749859

Výskyt jmen určitě není rovnoměrný a dost dobře může korelovat s úrovní pravopisu. Pro lepší představu zvažte třeba jméno Dežo...

V praxi dostnete spíš to, že černoši mají většinou horší platebí morálku. I poté jest stále diskriminací dávat někomu horší podmínky úvěru na základě toho, že je černej. To je prostě diskriminace, i když to máte podloženo statistickými daty. Protože upírat někomu rovné zacházení na základě toho, že jeho sourasovci mají horší platební morálku je prostě jasná diskriminace. Byť pro danou banku to může být lákavé a pragmaticky vzato by měla černochy rovnou ve dveřích vypklonkovávat, chtěla-li by se řídit jen statistikou (teoretizuji). Prakticky jí takové jednání společnost zakazuje, protože společnost chce být rovnostářská a zacházet rovně i s těmi, kteří se narodili s určitou barvou kůže.

0/0
4.11.2017 19:27







Najdete na iDNES.cz