Diskuse k článku

Největší problém umělé inteligence: nelze zjistit, „proč“ se rozhodla

Umělá inteligence a strojové učení jsou budoucností průmyslu. Přináší však s sebou problémy, které zatím v oblasti počítačových systémů nebylo potřeba řešit.

Upozornění

Litujeme, ale tato diskuse byla uzavřena a již do ní nelze vkládat nové příspěvky.
Děkujeme za pochopení.

Zobrazit příspěvky: Všechny podle vláken Všechny podle času

M42a38r79t76i45n 13P39o88d23h69o13r26s83k93ý 4945231879393

To je zas diskuze. Nejhlasitější bijci proti korektnosti jsou od reality stejně daleko jako hyperkorektní proud, který kritizují. AI prostě jede podle podle svého nastavení a pokud nezná kontext, tak může klidně převzít setrvačnost a předsudky prostředí, ve kterém operuje. U ženy z muslimské země se bude pozastavovat nad její snahou získat lepší vzdělání, čechovi nabídne podle zvyklosti ve stejné firmě, lokalitě a profesi hůře placenou práci než němcovi a od člena etnika, který byl vystěhován do chudších oblastí, kde měla jeho rodina horší startovní pozici, bude očekávat méně.

0/0
5.11.2017 1:01

M59i90c76h15a92l 88D78i92v74i17š 3651638413621

Pokud se ovsem jednalo o bankovni data, kde se resil kredit klienta, tedy rekneme neco jako bonita klienta, a dostavaji stejna data a proste urcite skupiny at uz rozdilne rasove, dle pohlavi ci nabozentsvi, proste maji v prumeru horsi bonitu, tak prece system neni rasisticky tomu je to asi uplne jedno. Proste je vyhodi vystupni data jak to je. To ze se nejake spolecnosti nelibi, ze horsi statistiky maji jine nabozenske skupiny od jinych nebo ruzna pohlavi, tak to je sice smutne, ale nic by se s tim nemelo delat a smirit se s tim, ze tak to proste je, nebo resi to tak, ze jim to teda umele navysime, aby to nebylo diskriminacni, zacnete tim diskriminovat tu druhou stranu. Proste je treba veci brat tak jak sou.

0/0
5.11.2017 11:53

E91d29u90a87r62d 54D91r56á24b42e83k 7267573569309

Finanční institutce do testovacího provozunasadila systém využívající strojové učení, který určoval kreditní skóre jednotlivých klientů. No a tento systém začal postupně některé klienty prokazatelně diskriminovat - na základě pohlaví, náboženství a rasy............................. a největší fór by, že do systému informace o pohlaví, náboženství a rase vůbec nikdo nevložil :-)

Zdroj: https://technet.idnes.cz/umela-inteligence-problem-rozhodovani-dye-/tec_technika.aspx?c=A170619_094905_tec_technika_nyv

+1/0
4.11.2017 18:57
Foto

F51r13a80n92t35i49š48e11k 82K70š94í72r 2349806175

Práce bude pořád dost i když tu bude umělá inteligence.

0/0
3.11.2017 16:58

P26e82t23r 11H74á32l98a 6764156985306

Stroj zacal prokazatelne diskriminovat? Takze zacal cernochum a muslimum davat prilis nizke kreditni skore, a jasne se prokazalo, ze cernoch se stejnym kreditnim skore jako beloch ma ve skutecnosti lepsi platebni moralku? Nebo proste maji cernosi horsi platebni moralku? To ale neni zadna diskriminace, pokud je to proste fakt!

+1/0
3.11.2017 11:49

E90d60u14a61r45d 28D85r24á59b60e68k 7607913319899

problém je, že i pokud se ukáže, že více černochů než bělochů má horší platební morálku, tak pokud se rozhodnete, že černochům budete dávat "preventivně" horší úvěry, "protože seš černej voe", tak je to považováno za diskriminaci. A je to tak správně. Černoch nemůže za to, že někteří další černoši neplatí a neměly by pro něj automaticky platit horší podmínky.

0/0
4.11.2017 19:00

J45a30r92o88s29l20a49v 96V58a70c25e81k 1342312742966

Hlavní překážkou UI byl, je a dlouho bude výpočetní výkon. Většina úloh je NP-těžkých. Takže současné počítače nemají v principu šanci.

0/0
1.11.2017 21:02

D81a72v44i88d 43D49i47r51g18a 7585731308

Třeba které?

0/0
2.11.2017 15:24

M47i65c89h91a21l 38C11h16a86l85u87p80a 6928110439463

UI znamená uživatelské rozhraní, české zkratky se v tomhle myslím moc nepoužívají, protože je to pak zavádějící a může to znamenat něco jiného. Jinak třeba u neuronových sítí je pomalé učení, vykonávání naučeného modelu je mnohem rychlejší. Vyrobit video je taky časově náročnější než jej jenom přehrávat.

+1/−1
2.11.2017 20:27

E62d93u64a49r61d 77D94r26á13b86e50k 7977783839409

UI znaemná umělá intelitence (AI)

0/0
4.11.2017 19:00

M54i88c11h40a67l 77C13h52a32l24u86p21a 6928910509873

Jo, ale prakticky se ty zkratky z češtiny moc nepoužívají, většinou z angličtiny. Takže UI je uživatelské rozhraní a AI umělá inteligence. Pokud to je někde ve větě, tak většina lidí bude předpokládat ty anglické.

0/0
4.11.2017 19:20

M98a12r83t57i52n 18Z21i52k52m49u86n14d 7695405324321

Výpočetní výkon je problém, ale hlavní překážkou je poskytnout AI dostatečný model světa. To nám pořád moc nejde. Umělá inteligence dokáže porazit velmistra v go, ale sama vlastně neví, že hraje. Stejně tak autonomní auta nevědí, že jedou po ulici.

0/0
3.11.2017 14:55

M55i40c97h78a61l 43D65i42v20i70š 3501618503831

Tak to jsou zacatky, az prijde sebeuvedomeni, myslim, ze uz nas nebude potreba.

0/0
5.11.2017 11:59

M12a74r25t87i47n 23Z30i40k32m42u46n57d 7905795734431

A to je právě ono. My pořád předpokládáme / doufáme / bojíme se, že sebeuvědomění je přirozený důsledek. Ale sami jo neumíme definovat, natož identifikovat. Věda ani nemá definici reality, protože je to ve výsledku irelevantní.

0/0
5.11.2017 12:03

P22e10t91r 41N79o93v22á88k 3533436694734

No možná je to tím, že programátoři velmi často používají funkci generování náhodných čísel... ;-D;-D;-)

+1/0
1.11.2017 15:04

P86e12t55r 70N67o49v74á71k 3253316264114

;-D No tak každá umělá inteligence se řídí instrukcemi. Je otázkou tedy kdo a jak tam ty instrukce či podmínky zapsal. ...

Jinak chápu, že to "nelze" zjistit, protože procesory zvádají miliardy operací za milisekundu, zatímco člověk možná ani ne jednu...Takže to fakt nezjistíme.;-D

+1/0
1.11.2017 15:01

F90r32a97n60t30i70š62e90k 98O97s69t57r30ý 4695891887853

No to právě tak není, že by se rozhodovala podle instrukcí.

Ani rychlost není to zásadní. Ten problém je, ža ta informace v neuronové síti není. Samozřejmě by šlo zjistit, jak se který neuron přepnul, ale nelze dobře zjistit, proč. Musel by se zopakovat celý proces učení se stejnými daty, což je prakticky neuskutečnitelné.

Samozřejmě, jak už tu bylo zmíněno, se řada firem snaží o implementaci nějaké diagnostiky. Ale asi nikdy to nebude stoprocentní.

0/−1
1.11.2017 15:06

M70i53c77h49a43l 37C75h71a78l18u26p17a 6578210949973

Nechápu, prč mínusy, asi to na někoho bylo příliš složité :-).

I to naučení lze udělat na základě stejných dat. Jenže úplně stejné to asi stejně nebude - u těchto algoritmů se může sít inicializovat do určité míry náhodnými čísly, něco se na začátku nastavit musí. A jeden neuron ani nemusí dělat jednu věc, takže změna výstupu se může projevit na víc místech třeba.

0/0
2.11.2017 20:31

M11i18c81h42a91l 27C89h52a70l75u26p54a 6358100779593

Jenže tady instrukce nejsou. Představte si to jako soustavu rovnic, která má třeba tisíce proměnných, ty se vynásobí různými koeficienty, posčítají atd a z toho vypadne hromada čísel. Učení spočívá v hledání takových koeficientů, aby pro známá čísla na vstupu vypadla taková čísla, jaká jsou potřeba (pak už záleží na interpretaci, třeba vypadne jedno číslo, které říká, jaká je pravděpodobnost, že na fotce je třeba něčí babička). Pokud se to udělá dobře, tak to pak dává výsledky i pro čísla, na kterých se to neučilo. Problém je, že těžko pak někdo dokáže říct, proč koeficient na pozici 5 tisíc je zrovna takový a co se stane, kdyby se změnil o jednu setinu. Může to něco opravit, začne to dělat něco jiného nebo se to celé rozsype.

0/0
2.11.2017 20:36

J87a11r71o53s76l67a62v 56D36r81o22z54d 6553429860137

Ke čtení článku doporučuji pustit si trochu tématické hudby:

https://www.youtube.com/watch?v=pVZ2NShfCE8

0/0
1.11.2017 11:45

R71o56m21a87n 56S96t67r79a11j17t 8736278825494

Diskriminace je v pořádku, tu si různá etnika zasloužila sama. Závažnější problém je úplně jinde a to rozhodování v kritických situacích kdy jde o zdraví. Samořídící automobil může mít v případě kolize např. dvě možnosti a již v okamžiku rozhodování může předjímat, že varianta jedna zachrání posádku ale způsobí zranění jiným lidem, nebo to bude naopak. Kdo nastaví priority a kdo za ně bude trestně zodpovědný ?

+1/0
1.11.2017 7:07

E70d11u57a37r16d 85D67r27á40b47e61k 7557603789729

Nebo vám AI řekne, že je nutné do 24 hodin odpálit jaderné rakety na Koreu a zaboha vám neřekne proč :) A vy víte akorát to, že měla k dispozici všechny informace světa a je "chytřejší než vy". Poslechnete, neposlechnete...:-) Co když na základě zjištěných informací naopak začla fandit korejcům a je to blaf? ;-D

0/0
4.11.2017 19:15

I44v19a82n 72B54u97b24l22a 3312625305304

Budou inteligentní stroje, nebudou potřeba inteligentní lidi. Teď už chápu proč už v předstihu z nás dělají blbce.

+2/−1
31.10.2017 20:53

Š70t46ě13p50á79n 16V65a79n64ě26k 3493569297847

Velmi zajímavý článek. Nechystáte nějaký ucelenější seriál?

+1/0
31.10.2017 20:14

M40i19l59a42n 94V28o93l44e91k 5339113716849

'Inteligence' způsobená vahami mezi uzly se samozřejmě analyzovat dá, ale kdo by se s tím dělal?

+1/−1
31.10.2017 18:25

M35i57r79e94k 16G84a25j30e24r 5891666549890

Kdyby to slo, tak tu analyzu zase muze delat pocitac.

0/0
31.10.2017 18:31

D80a24v55i94d 61D63i86r23g87a 7635781358

Spíš co s tím. Budete vědět, na kterém uzlu se to dalo kterým směrem, ale co vám pomůže informace, že nejvyšší kreditní skore má v rámci stejné výše příjmů zrovna člověk se jménem o délce deset písmen začínajícím na J ve věku mezi 52 a 54 lety?

+1/0
1.11.2017 0:09

M44i35l85a77n 22V12o77l94e79k 5179983686199

Takže jste nikdy neuronovou síť neprogramoval ani neučil...

+1/0
1.11.2017 21:10

D63a41v97i69d 50D51i14r52g23a 7135481498

Máte pravdu. A máte i tu implikovanou pravdu, že jsem to nemístně zjednodušil.

+1/0
2.11.2017 15:25

M39i69c23h58a95l 70C78h53a60l80u98p46a 6188220219713

Jenže opravit to lidi podle mě stejně moc nedokážou. Ty neuronové sítě se používají především pro řešení problémů, které nikdo řešit spolehlivě neumí nebo je to šíleně pracné. Takže zcela pochopit tu síť nebo ji dokonce dokázat ručně opravit mi vychází jako náročnější, než ten původní problém. Prostě by bylo jednodušší řešit ten původní problém klasickým způsobem.

+1/0
2.11.2017 20:39

M74i81l80a54n 46V40o30l64e26k 5729453596369

To je otázka. Podle mě by stálo za to analyzovat naučenou neuronovou síť právě proto, abychom pochopili závislosti pro klasické řešení. To ovšem vyžaduje i optimálně navrženou síť, kde se k výsledku může dostat jen jednou cestou.

0/0
4.11.2017 8:24

M21i40c86h45a48l 51C87h29a97l18u38p55a 6188380649943

ta sit je ale univerzalni reseni, zvladne delat to, na cem se naucila, takze ta slozita analyza by resila akorat to, na cem se to ucilo. A jednodussi bude znovu pustit uceni pro dalsich x tisic vstupnich dat, nez to resit rucne. A ta vysledna sit ani nemusi byt optimalni reseni, staci, ze nejak funguje.

0/0
4.11.2017 10:16

Z88d57e38n79ě38k 69V42o57d12á18k 7195156957852

UI jednou zajistí světový mír.

Když se jí dá za úkol obrana. Zjistí, že nejlepší řešení lokálních i globálních konfliktů je eliminace těch agresivních vyspělejších opic co války vždy v historii rozpoutali

0/0
31.10.2017 16:36

D59a21v51i42d 29D93i62r96g65a 7335911728

Postupně se tak do pozice agresivních vyspělejších opic budou dostávat ty méně agresivní a vyspělé, až daný UI vyhubí celé lidstvo.

Myslím, že tohle není správná cesta.

+3/0
1.11.2017 0:06

J65a53r35o46s17l75a34v 74N68e43d65o30m66a 3780820842373

Tak že film Terminátor byl vlastně hodně vizionářský....

+2/0
1.11.2017 7:38
Foto

M38a46r90t43i48n 96F85a23l87t44ý12n 9961326334458

A Asimov se svými zákony robotiky může jít... víte kam!

Respektive by musel vytvořit 11. zákon (11. přikázání už máme, jesltipak víte, které to je?). Smělci se mohou pokusit o jeho - 11. zákona - definici ;-D

0/−2
31.10.2017 16:23

M17i71c25h17a20l 93C42h83a39l37u51p93a 6898840629463

Proč 11.? Asimov si vystačil se čtyřmi...

0/0
2.11.2017 20:41

M18a35r67t29i41n 58Z34i68k67m22u58n72d 7735375514451

Asimovy knihy jsou založeny na faktu, že zákony robotiky nefungují :)

+2/0
3.11.2017 15:01
Foto

L97u57k58á50š 71N71o90v94o54t16n63ý 6906537178118

Jak může být diskriminační něco, co je založeno na objektivních datech? Diskriminace je čistě subjektivní např. že dám ženské menší plat, protože je to ženská. Pokud ale z objektivních (tvrdých) dat vyjde, že např. muslimové jsou rizikovější ve splácení úvěrů, pak je to na stejné úrovni jako když dám nižší kreditní ohodnocení člověku se základkou než někomu s vysokou, protože na základě dostupných dat lidé se základkou splácí hůře.

+9/−1
31.10.2017 15:55
Foto

M59a51r35t75i38n 13F90a85l82t13ý57n 9931616304688

Možná to nakonec bude posuzovat nějaký "Robot - Sluníčkář" ;-D

0/0
31.10.2017 16:21
Foto

P56a87v90e53l 45K41a43s90í74k27, 40T23e22c76h67n79e61t66.62c17z

Pozor, to je častý omyl. I diskriminace na základě dat je stále diskriminací a je překážkou rovným příležitostem. Například pokud bych měl data o tom, že lidé s křestním jménem Lukáš mají - statisticky vzato - horší znalosti pravopisu, než lidé s křestním jménem Tomáš, mohl bych říci: "Lukáš Novotný, to ani nebudu číst, to bude určitě nečitelné." Tedy na základě "objektivních dat" bych vás diskriminoval, nedal bych vám rovnou příležitost. To je ten zásadní argument - diskriminace není špatná proto, že nevychází z dat (i když někdy skutečně z dat nevychází). Diskriminace je špatná proto, že porušuje princip rovné příležitosti nebo rovného přístupu. Řečeno úplně polopaticky: když bude dvakrát trestaný zloděl obviněn z toho, že něco ukradl, máme docela dobrá data o tom, že je to zloděj. Přesto ale musíme hledat důkazy pro to, že tu věc skutečně ukradl, a nelze ho odsoudit jen za to, že kradl v minulosti, tak určitě kradl i tentokrát. To by porušilo zásadu rovného přístupu ke spravedlnosti, což je princip, který každý ocení ve chvíli, kdy se ocitne v situaci, kdy hrozí nefér zacházení jemu.

+9/−4
31.10.2017 16:52

W47a96l97t48e53r 21D74i54v92i76š 6197692362962

Troufl bych si tvrdit, že tady jde o chybu v úvaze.

Pokud budu hodnotit (nastavím hodnocení) podle chybného, nedostatečného nebo zkresleného parametru, pak nutně dostanu nepoužitelný výstup, ale netvrdil, že výstup je diskriminační. Výstup nějakého předem stanoveného algoritmu nemůže nikdy být diskriminací. Diskriminací je nastavení algoritmu, určení, že zrovna tento parametr bude hodnocen apod.

Tedy pokud jste na začátku nastavil chybné (diskriminační) pravidlo, pak zcela nutně dostanete takový výsledek. A to nikoli na základě dat, ale na základě zvoleného hodnocení.

A zcela na okraj - myslím, že v rámci hodnocení a výstupů AI je vůbec chybou mluvit o diskriminaci. Diskriminace je v náš vlastní vynález, je to jen hodnocení, které není neutrální, ale zabarvené (emočně? morálně? eticky?). Zatímco současné AI dávají výstup čistě neutrální, nediskriminační, prostě jen vyhodnotí dodaná data dle naprogramovaných postupů - v případě neurálních sítí pak naprogramovaného postupu učení a dodaných dat, které výsledek tvoří společně. Nicméně stále nelze mluvit o diskriminaci, ale pouze o neutrálním výsledku.

+8/−1
31.10.2017 17:17

O28n72d47ř18e75j 66Z67e75m17a45n 5240894238289

Tak problém je, že se v případě popsaném v článku nejedná o předem stanovený algoritmus, ten program to nevyhodnocuje dle naprogramovaných postupů, jinak by se dalo přesně určit, proč to tak vyhodnotil.

+1/0
31.10.2017 18:03

T12o51m90á41š 54Z82e70m57a48n 3475428694855

Nelze určit JAK to vyhodnotil, ale docela dobře lze určit PROČ.

+1/−1
31.10.2017 18:13

M50i24r64e57k 14G26a93j14e29r 5711846109930

Ty postupy jsou samozrejme naprogramovane, ne ze ne. Ale k tomu vysledku proste vede souhrn velkeho mnoztsvi dat a my nedokazeme nijak nebo nijak snadno urcit, jakou "roli" jednotliva data hraji.

+1/−1
31.10.2017 18:35
Foto

P40a39v60e83l 57K40a91s71í13k12, 44T64e85c64h48n78e34t15.47c88z

Chápu, co říkáte, ale máte jinou definici slova "diskriminace", než já. Vy diskriminaci přičítáte "úmysl" - a proto říkáte, že AI nemůže diskriminovat. Ale diskriminace nemusí být jen úmyslná, naopak, velmi často je neúmyslná. I u lidí. Právě proto je tak těžké o diskriminaci mluvit. Lidé, kteří jsou osočení například z rasové diskriminace, v tom slyší obvinění z toho, že jsou úmyslně rasisté. Ale diskriminace je mnohem častěji neúmyslná, podvědomá, systematická apod. Příklad: učitelé matematiky dávají chlapcům za stejné odpovědi v testech lepší známky, než dívkám. Pokud se jméno skryje, tato diskriminace zmizí. To neznamená, že ten učitel "úmyslně" diskriminoval, přesto došlo k diskriminaci. A to samé u složitých neuronových sítí.

+2/0
2.11.2017 15:08

M25i53r21e59k 41G97a95j18e98r 5401656899470

Ani takto umela inteligence nefunguje. Data se rozdeluji na "treninkova" a "testovaci." Toto rozdeleni se dela nahodne a mnohokrat. Az kdyby skutecne platilo i na datech, na kterych ta neuronova sit nebyla natrenovana, ze porad plati o Lukáších ty horší znalosti pravopisu, pak by se ta umela inteligence mohla rozhodnout, jak pisete. Dalo by se to cekat treba u krestniho jmena Dežo, kde ta kauzalni spojitost skutecne je. Diskriminacni by to nebylo, protoze nejde o diskriminaci na zaklade barvy kuze, kterou si clovek nemuze bezne zmenit. Jmeno zmenit jde a mnozi byvali Čurdové by vam to mohli osvetlit.

Jo a udelejte si pruzkum, kolik lidi spravne rozumi pojmu "rasova diskriminace." Vetsina v tom ma uplny zmatek, nevi, co je protizakonne a co neni. Pak je tezke dodrzovat zakony spravne a take spravne trestat ty, kdo je porusuji. Mnoho lidi se domniva, ze je neco diskriminacni a pritom to neni pravda nebo to alespon neni nic protipravniho.

0/−1
31.10.2017 18:03

T24o53m19á73š 90Z17e49m96a82n 3485788984705

Pokud by tu ta příčinná souvislost byla.

Ale není. Leda by by šlo o jméno častější u nějaké opravdu odlišné skupiny obyvatel.

Naopak u ras/náboženství/pohlaví tu souvislost je. Lidé, kteří z náboženských důvodů musí dělat XY a naopak nesmí YX, nemohou být stejní, jako lidé bez této zátěže.

A k tomu zloději - člověku, který spáchá úvěrový/pojistný podvod už nikdo službu neposkytne a nebo za "diskriminačních" podmínek, přestože zrovna teď nepodvádí.

Obecně mi přijde, že často směšujete, pane Kasíku, jevy náhodné (např. gramatika/jméno) a jevy, které nutně musí mít souvislost (náboženství/jednání).

+2/−2
31.10.2017 18:11

M48i77c24h79a24l 33C95h83a50l28u78p29a 6858610319913

Jenže takováhle data byste z normální společnosti nejspíš neměl dostat - pokud je distribuce lidí se špatnou znalostí pravopisu rovnoměrná a stejně tak i výskyt jmen, tak těch Lukášů s neznalostí pravopisu bude podobně, jako třeba Pavlů.

0/0
2.11.2017 20:45

E41d46u21a96r50d 41D54r73á87b27e64k 7497163759739

Výskyt jmen určitě není rovnoměrný a dost dobře může korelovat s úrovní pravopisu. Pro lepší představu zvažte třeba jméno Dežo...

V praxi dostnete spíš to, že černoši mají většinou horší platebí morálku. I poté jest stále diskriminací dávat někomu horší podmínky úvěru na základě toho, že je černej. To je prostě diskriminace, i když to máte podloženo statistickými daty. Protože upírat někomu rovné zacházení na základě toho, že jeho sourasovci mají horší platební morálku je prostě jasná diskriminace. Byť pro danou banku to může být lákavé a pragmaticky vzato by měla černochy rovnou ve dveřích vypklonkovávat, chtěla-li by se řídit jen statistikou (teoretizuji). Prakticky jí takové jednání společnost zakazuje, protože společnost chce být rovnostářská a zacházet rovně i s těmi, kteří se narodili s určitou barvou kůže.

0/0
4.11.2017 19:27

Najdete na iDNES.cz