Klávesové zkratky na tomto webu - základní­
Přeskočit hlavičku portálu


Diskuse k článku

Největší problém umělé inteligence: nelze zjistit, „proč“ se rozhodla

Umělá inteligence a strojové učení jsou budoucností průmyslu. Přináší však s sebou problémy, které zatím v oblasti počítačových systémů nebylo potřeba řešit.

Upozornění

Litujeme, ale tato diskuse byla uzavřena a již do ní nelze vkládat nové příspěvky.
Děkujeme za pochopení.

Zobrazit příspěvky: Všechny podle vláken Všechny podle času

M72a65r11t35i73n 90P69o51d17h22o23r58s36k86ý 4245771119163

To je zas diskuze. Nejhlasitější bijci proti korektnosti jsou od reality stejně daleko jako hyperkorektní proud, který kritizují. AI prostě jede podle podle svého nastavení a pokud nezná kontext, tak může klidně převzít setrvačnost a předsudky prostředí, ve kterém operuje. U ženy z muslimské země se bude pozastavovat nad její snahou získat lepší vzdělání, čechovi nabídne podle zvyklosti ve stejné firmě, lokalitě a profesi hůře placenou práci než němcovi a od člena etnika, který byl vystěhován do chudších oblastí, kde měla jeho rodina horší startovní pozici, bude očekávat méně.

0/0
5.11.2017 1:01

M83i51c22h90a70l 54D42i65v36i76š 3351148473371

Pokud se ovsem jednalo o bankovni data, kde se resil kredit klienta, tedy rekneme neco jako bonita klienta, a dostavaji stejna data a proste urcite skupiny at uz rozdilne rasove, dle pohlavi ci nabozentsvi, proste maji v prumeru horsi bonitu, tak prece system neni rasisticky tomu je to asi uplne jedno. Proste je vyhodi vystupni data jak to je. To ze se nejake spolecnosti nelibi, ze horsi statistiky maji jine nabozenske skupiny od jinych nebo ruzna pohlavi, tak to je sice smutne, ale nic by se s tim nemelo delat a smirit se s tim, ze tak to proste je, nebo resi to tak, ze jim to teda umele navysime, aby to nebylo diskriminacni, zacnete tim diskriminovat tu druhou stranu. Proste je treba veci brat tak jak sou.

0/0
5.11.2017 11:53

E37d96u22a26r87d 71D30r52á51b30e56k 7847953769389

Finanční institutce do testovacího provozunasadila systém využívající strojové učení, který určoval kreditní skóre jednotlivých klientů. No a tento systém začal postupně některé klienty prokazatelně diskriminovat - na základě pohlaví, náboženství a rasy............................. a největší fór by, že do systému informace o pohlaví, náboženství a rase vůbec nikdo nevložil :-)

Zdroj: https://technet.idnes.cz/umela-inteligence-problem-rozhodovani-dye-/tec_technika.aspx?c=A170619_094905_tec_technika_nyv

+1/0
4.11.2017 18:57
Foto

F44r34a76n23t60i52š35e66k 31K52š20í63r 2289576145

Práce bude pořád dost i když tu bude umělá inteligence.

0/0
3.11.2017 16:58

P24e39t86r 19H21á97l59a 6264646835276

Stroj zacal prokazatelne diskriminovat? Takze zacal cernochum a muslimum davat prilis nizke kreditni skore, a jasne se prokazalo, ze cernoch se stejnym kreditnim skore jako beloch ma ve skutecnosti lepsi platebni moralku? Nebo proste maji cernosi horsi platebni moralku? To ale neni zadna diskriminace, pokud je to proste fakt!

+1/0
3.11.2017 11:49

E21d31u68a48r50d 97D57r69á58b47e89k 7787693239759

problém je, že i pokud se ukáže, že více černochů než bělochů má horší platební morálku, tak pokud se rozhodnete, že černochům budete dávat "preventivně" horší úvěry, "protože seš černej voe", tak je to považováno za diskriminaci. A je to tak správně. Černoch nemůže za to, že někteří další černoši neplatí a neměly by pro něj automaticky platit horší podmínky.

0/0
4.11.2017 19:00

J53a86r59o66s28l19a87v 32V71a52c69e65k 1892292332366

Hlavní překážkou UI byl, je a dlouho bude výpočetní výkon. Většina úloh je NP-těžkých. Takže současné počítače nemají v principu šanci.

0/0
1.11.2017 21:02

D27a96v94i67d 17D54i98r83g70a 7235301108

Třeba které?

0/0
2.11.2017 15:24

M43i64c90h95a39l 50C83h82a71l77u34p59a 6928220809263

UI znamená uživatelské rozhraní, české zkratky se v tomhle myslím moc nepoužívají, protože je to pak zavádějící a může to znamenat něco jiného. Jinak třeba u neuronových sítí je pomalé učení, vykonávání naučeného modelu je mnohem rychlejší. Vyrobit video je taky časově náročnější než jej jenom přehrávat.

+1/−1
2.11.2017 20:27

E78d55u86a13r68d 28D66r52á52b26e79k 7857783149679

UI znaemná umělá intelitence (AI)

0/0
4.11.2017 19:00

M44i47c74h12a70l 18C15h73a92l89u81p51a 6438340279433

Jo, ale prakticky se ty zkratky z češtiny moc nepoužívají, většinou z angličtiny. Takže UI je uživatelské rozhraní a AI umělá inteligence. Pokud to je někde ve větě, tak většina lidí bude předpokládat ty anglické.

0/0
4.11.2017 19:20

M57a61r86t12i54n 43Z74i23k40m95u72n39d 7855975664131

Výpočetní výkon je problém, ale hlavní překážkou je poskytnout AI dostatečný model světa. To nám pořád moc nejde. Umělá inteligence dokáže porazit velmistra v go, ale sama vlastně neví, že hraje. Stejně tak autonomní auta nevědí, že jedou po ulici.

0/0
3.11.2017 14:55

M85i97c30h90a58l 73D16i24v18i46š 3811388743381

Tak to jsou zacatky, az prijde sebeuvedomeni, myslim, ze uz nas nebude potreba.

0/0
5.11.2017 11:59

M83a11r19t90i61n 51Z31i52k80m41u92n40d 7365565764181

A to je právě ono. My pořád předpokládáme / doufáme / bojíme se, že sebeuvědomění je přirozený důsledek. Ale sami jo neumíme definovat, natož identifikovat. Věda ani nemá definici reality, protože je to ve výsledku irelevantní.

0/0
5.11.2017 12:03

P11e63t13r 83N83o39v48á29k 3223656134234

No možná je to tím, že programátoři velmi často používají funkci generování náhodných čísel... ;-D;-D;-)

+1/0
1.11.2017 15:04

P95e40t35r 37N41o11v30á44k 3543846874744

;-D No tak každá umělá inteligence se řídí instrukcemi. Je otázkou tedy kdo a jak tam ty instrukce či podmínky zapsal. ...

Jinak chápu, že to "nelze" zjistit, protože procesory zvádají miliardy operací za milisekundu, zatímco člověk možná ani ne jednu...Takže to fakt nezjistíme.;-D

+1/0
1.11.2017 15:01

F50r43a76n77t20i26š79e74k 86O60s68t72r36ý 4215341987263

No to právě tak není, že by se rozhodovala podle instrukcí.

Ani rychlost není to zásadní. Ten problém je, ža ta informace v neuronové síti není. Samozřejmě by šlo zjistit, jak se který neuron přepnul, ale nelze dobře zjistit, proč. Musel by se zopakovat celý proces učení se stejnými daty, což je prakticky neuskutečnitelné.

Samozřejmě, jak už tu bylo zmíněno, se řada firem snaží o implementaci nějaké diagnostiky. Ale asi nikdy to nebude stoprocentní.

0/−1
1.11.2017 15:06

M78i52c42h38a64l 48C66h44a62l14u98p25a 6758860669183

Nechápu, prč mínusy, asi to na někoho bylo příliš složité :-).

I to naučení lze udělat na základě stejných dat. Jenže úplně stejné to asi stejně nebude - u těchto algoritmů se může sít inicializovat do určité míry náhodnými čísly, něco se na začátku nastavit musí. A jeden neuron ani nemusí dělat jednu věc, takže změna výstupu se může projevit na víc místech třeba.

0/0
2.11.2017 20:31

M28i95c18h87a14l 51C44h54a85l42u30p52a 6738670679733

Jenže tady instrukce nejsou. Představte si to jako soustavu rovnic, která má třeba tisíce proměnných, ty se vynásobí různými koeficienty, posčítají atd a z toho vypadne hromada čísel. Učení spočívá v hledání takových koeficientů, aby pro známá čísla na vstupu vypadla taková čísla, jaká jsou potřeba (pak už záleží na interpretaci, třeba vypadne jedno číslo, které říká, jaká je pravděpodobnost, že na fotce je třeba něčí babička). Pokud se to udělá dobře, tak to pak dává výsledky i pro čísla, na kterých se to neučilo. Problém je, že těžko pak někdo dokáže říct, proč koeficient na pozici 5 tisíc je zrovna takový a co se stane, kdyby se změnil o jednu setinu. Může to něco opravit, začne to dělat něco jiného nebo se to celé rozsype.

0/0
2.11.2017 20:36

J19a20r55o67s18l32a18v 14D21r38o52z80d 6273709870457

Ke čtení článku doporučuji pustit si trochu tématické hudby:

https://www.youtube.com/watch?v=pVZ2NShfCE8

0/0
1.11.2017 11:45

R92o84m69a13n 15S13t17r89a48j89t 8936208625344

Diskriminace je v pořádku, tu si různá etnika zasloužila sama. Závažnější problém je úplně jinde a to rozhodování v kritických situacích kdy jde o zdraví. Samořídící automobil může mít v případě kolize např. dvě možnosti a již v okamžiku rozhodování může předjímat, že varianta jedna zachrání posádku ale způsobí zranění jiným lidem, nebo to bude naopak. Kdo nastaví priority a kdo za ně bude trestně zodpovědný ?

+1/0
1.11.2017 7:07

E24d19u39a40r56d 11D77r56á62b59e86k 7857793989409

Nebo vám AI řekne, že je nutné do 24 hodin odpálit jaderné rakety na Koreu a zaboha vám neřekne proč :) A vy víte akorát to, že měla k dispozici všechny informace světa a je "chytřejší než vy". Poslechnete, neposlechnete...:-) Co když na základě zjištěných informací naopak začla fandit korejcům a je to blaf? ;-D

0/0
4.11.2017 19:15

I16v11a14n 24B59u64b38l74a 3812145155144

Budou inteligentní stroje, nebudou potřeba inteligentní lidi. Teď už chápu proč už v předstihu z nás dělají blbce.

+2/−1
31.10.2017 20:53

Š51t60ě28p82á27n 20V10a74n28ě66k 3183409577887

Velmi zajímavý článek. Nechystáte nějaký ucelenější seriál?

+1/0
31.10.2017 20:14

M91i16l23a50n 54V26o31l20e49k 5589863186579

'Inteligence' způsobená vahami mezi uzly se samozřejmě analyzovat dá, ale kdo by se s tím dělal?

+1/−1
31.10.2017 18:25

M19i64r53e11k 64G73a95j72e51r 5201986689130

Kdyby to slo, tak tu analyzu zase muze delat pocitac.

0/0
31.10.2017 18:31

D61a87v39i40d 82D47i16r28g17a 7485811758

Spíš co s tím. Budete vědět, na kterém uzlu se to dalo kterým směrem, ale co vám pomůže informace, že nejvyšší kreditní skore má v rámci stejné výše příjmů zrovna člověk se jménem o délce deset písmen začínajícím na J ve věku mezi 52 a 54 lety?

+1/0
1.11.2017 0:09

M90i64l58a34n 38V17o43l68e33k 5919263196129

Takže jste nikdy neuronovou síť neprogramoval ani neučil...

+1/0
1.11.2017 21:10

D64a39v91i25d 94D43i70r39g55a 7575281578

Máte pravdu. A máte i tu implikovanou pravdu, že jsem to nemístně zjednodušil.

+1/0
2.11.2017 15:25

M60i28c55h35a20l 12C45h45a61l82u97p15a 6178920859693

Jenže opravit to lidi podle mě stejně moc nedokážou. Ty neuronové sítě se používají především pro řešení problémů, které nikdo řešit spolehlivě neumí nebo je to šíleně pracné. Takže zcela pochopit tu síť nebo ji dokonce dokázat ručně opravit mi vychází jako náročnější, než ten původní problém. Prostě by bylo jednodušší řešit ten původní problém klasickým způsobem.

+1/0
2.11.2017 20:39

M60i68l92a64n 47V23o73l44e51k 5889253336859

To je otázka. Podle mě by stálo za to analyzovat naučenou neuronovou síť právě proto, abychom pochopili závislosti pro klasické řešení. To ovšem vyžaduje i optimálně navrženou síť, kde se k výsledku může dostat jen jednou cestou.

0/0
4.11.2017 8:24

M41i30c35h13a76l 20C59h81a49l76u65p16a 6168650289763

ta sit je ale univerzalni reseni, zvladne delat to, na cem se naucila, takze ta slozita analyza by resila akorat to, na cem se to ucilo. A jednodussi bude znovu pustit uceni pro dalsich x tisic vstupnich dat, nez to resit rucne. A ta vysledna sit ani nemusi byt optimalni reseni, staci, ze nejak funguje.

0/0
4.11.2017 10:16

Z18d26e89n35ě76k 52V84o96d58á63k 7955806417612

UI jednou zajistí světový mír.

Když se jí dá za úkol obrana. Zjistí, že nejlepší řešení lokálních i globálních konfliktů je eliminace těch agresivních vyspělejších opic co války vždy v historii rozpoutali

0/0
31.10.2017 16:36

D74a60v56i30d 38D95i65r83g81a 7895191598

Postupně se tak do pozice agresivních vyspělejších opic budou dostávat ty méně agresivní a vyspělé, až daný UI vyhubí celé lidstvo.

Myslím, že tohle není správná cesta.

+3/0
1.11.2017 0:06

J10a85r53o86s80l17a66v 78N33e21d16o16m95a 3160520812273

Tak že film Terminátor byl vlastně hodně vizionářský....

+2/0
1.11.2017 7:38
Foto

M78a61r94t85i68n 44F14a40l54t19ý97n 9481226604158

A Asimov se svými zákony robotiky může jít... víte kam!

Respektive by musel vytvořit 11. zákon (11. přikázání už máme, jesltipak víte, které to je?). Smělci se mohou pokusit o jeho - 11. zákona - definici ;-D

0/−2
31.10.2017 16:23

M52i86c43h35a96l 71C20h18a98l33u93p95a 6378440239313

Proč 11.? Asimov si vystačil se čtyřmi...

0/0
2.11.2017 20:41

M98a59r40t10i71n 39Z97i14k10m84u52n76d 7765215694341

Asimovy knihy jsou založeny na faktu, že zákony robotiky nefungují :)

+2/0
3.11.2017 15:01
Foto

L72u93k55á89š 62N65o47v91o81t88n84ý 6766687208208

Jak může být diskriminační něco, co je založeno na objektivních datech? Diskriminace je čistě subjektivní např. že dám ženské menší plat, protože je to ženská. Pokud ale z objektivních (tvrdých) dat vyjde, že např. muslimové jsou rizikovější ve splácení úvěrů, pak je to na stejné úrovni jako když dám nižší kreditní ohodnocení člověku se základkou než někomu s vysokou, protože na základě dostupných dat lidé se základkou splácí hůře.

+9/−1
31.10.2017 15:55
Foto

M43a27r73t83i26n 22F10a74l52t25ý14n 9361916704358

Možná to nakonec bude posuzovat nějaký "Robot - Sluníčkář" ;-D

0/0
31.10.2017 16:21
Foto

P65a32v56e81l 36K12a71s29í75k19, 96T74e62c78h56n18e28t33.25c41z

Pozor, to je častý omyl. I diskriminace na základě dat je stále diskriminací a je překážkou rovným příležitostem. Například pokud bych měl data o tom, že lidé s křestním jménem Lukáš mají - statisticky vzato - horší znalosti pravopisu, než lidé s křestním jménem Tomáš, mohl bych říci: "Lukáš Novotný, to ani nebudu číst, to bude určitě nečitelné." Tedy na základě "objektivních dat" bych vás diskriminoval, nedal bych vám rovnou příležitost. To je ten zásadní argument - diskriminace není špatná proto, že nevychází z dat (i když někdy skutečně z dat nevychází). Diskriminace je špatná proto, že porušuje princip rovné příležitosti nebo rovného přístupu. Řečeno úplně polopaticky: když bude dvakrát trestaný zloděl obviněn z toho, že něco ukradl, máme docela dobrá data o tom, že je to zloděj. Přesto ale musíme hledat důkazy pro to, že tu věc skutečně ukradl, a nelze ho odsoudit jen za to, že kradl v minulosti, tak určitě kradl i tentokrát. To by porušilo zásadu rovného přístupu ke spravedlnosti, což je princip, který každý ocení ve chvíli, kdy se ocitne v situaci, kdy hrozí nefér zacházení jemu.

+9/−4
31.10.2017 16:52

W66a42l93t95e49r 56D80i54v25i19š 6507422642892

Troufl bych si tvrdit, že tady jde o chybu v úvaze.

Pokud budu hodnotit (nastavím hodnocení) podle chybného, nedostatečného nebo zkresleného parametru, pak nutně dostanu nepoužitelný výstup, ale netvrdil, že výstup je diskriminační. Výstup nějakého předem stanoveného algoritmu nemůže nikdy být diskriminací. Diskriminací je nastavení algoritmu, určení, že zrovna tento parametr bude hodnocen apod.

Tedy pokud jste na začátku nastavil chybné (diskriminační) pravidlo, pak zcela nutně dostanete takový výsledek. A to nikoli na základě dat, ale na základě zvoleného hodnocení.

A zcela na okraj - myslím, že v rámci hodnocení a výstupů AI je vůbec chybou mluvit o diskriminaci. Diskriminace je v náš vlastní vynález, je to jen hodnocení, které není neutrální, ale zabarvené (emočně? morálně? eticky?). Zatímco současné AI dávají výstup čistě neutrální, nediskriminační, prostě jen vyhodnotí dodaná data dle naprogramovaných postupů - v případě neurálních sítí pak naprogramovaného postupu učení a dodaných dat, které výsledek tvoří společně. Nicméně stále nelze mluvit o diskriminaci, ale pouze o neutrálním výsledku.

+8/−1
31.10.2017 17:17

O27n59d20ř46e63j 37Z17e25m11a64n 5500134138989

Tak problém je, že se v případě popsaném v článku nejedná o předem stanovený algoritmus, ten program to nevyhodnocuje dle naprogramovaných postupů, jinak by se dalo přesně určit, proč to tak vyhodnotil.

+1/0
31.10.2017 18:03

T89o45m56á28š 72Z47e19m34a65n 3235878404615

Nelze určit JAK to vyhodnotil, ale docela dobře lze určit PROČ.

+1/−1
31.10.2017 18:13

M25i47r30e93k 86G33a29j23e66r 5901686229770

Ty postupy jsou samozrejme naprogramovane, ne ze ne. Ale k tomu vysledku proste vede souhrn velkeho mnoztsvi dat a my nedokazeme nijak nebo nijak snadno urcit, jakou "roli" jednotliva data hraji.

+1/−1
31.10.2017 18:35
Foto

P77a38v35e77l 93K84a15s77í50k25, 29T14e85c46h26n78e49t85.80c49z

Chápu, co říkáte, ale máte jinou definici slova "diskriminace", než já. Vy diskriminaci přičítáte "úmysl" - a proto říkáte, že AI nemůže diskriminovat. Ale diskriminace nemusí být jen úmyslná, naopak, velmi často je neúmyslná. I u lidí. Právě proto je tak těžké o diskriminaci mluvit. Lidé, kteří jsou osočení například z rasové diskriminace, v tom slyší obvinění z toho, že jsou úmyslně rasisté. Ale diskriminace je mnohem častěji neúmyslná, podvědomá, systematická apod. Příklad: učitelé matematiky dávají chlapcům za stejné odpovědi v testech lepší známky, než dívkám. Pokud se jméno skryje, tato diskriminace zmizí. To neznamená, že ten učitel "úmyslně" diskriminoval, přesto došlo k diskriminaci. A to samé u složitých neuronových sítí.

+2/0
2.11.2017 15:08

M48i75r62e85k 27G29a18j25e74r 5691316889360

Ani takto umela inteligence nefunguje. Data se rozdeluji na "treninkova" a "testovaci." Toto rozdeleni se dela nahodne a mnohokrat. Az kdyby skutecne platilo i na datech, na kterych ta neuronova sit nebyla natrenovana, ze porad plati o Lukáších ty horší znalosti pravopisu, pak by se ta umela inteligence mohla rozhodnout, jak pisete. Dalo by se to cekat treba u krestniho jmena Dežo, kde ta kauzalni spojitost skutecne je. Diskriminacni by to nebylo, protoze nejde o diskriminaci na zaklade barvy kuze, kterou si clovek nemuze bezne zmenit. Jmeno zmenit jde a mnozi byvali Čurdové by vam to mohli osvetlit.

Jo a udelejte si pruzkum, kolik lidi spravne rozumi pojmu "rasova diskriminace." Vetsina v tom ma uplny zmatek, nevi, co je protizakonne a co neni. Pak je tezke dodrzovat zakony spravne a take spravne trestat ty, kdo je porusuji. Mnoho lidi se domniva, ze je neco diskriminacni a pritom to neni pravda nebo to alespon neni nic protipravniho.

0/−1
31.10.2017 18:03

T14o35m40á56š 36Z86e19m46a76n 3195698784775

Pokud by tu ta příčinná souvislost byla.

Ale není. Leda by by šlo o jméno častější u nějaké opravdu odlišné skupiny obyvatel.

Naopak u ras/náboženství/pohlaví tu souvislost je. Lidé, kteří z náboženských důvodů musí dělat XY a naopak nesmí YX, nemohou být stejní, jako lidé bez této zátěže.

A k tomu zloději - člověku, který spáchá úvěrový/pojistný podvod už nikdo službu neposkytne a nebo za "diskriminačních" podmínek, přestože zrovna teď nepodvádí.

Obecně mi přijde, že často směšujete, pane Kasíku, jevy náhodné (např. gramatika/jméno) a jevy, které nutně musí mít souvislost (náboženství/jednání).

+2/−2
31.10.2017 18:11

M67i28c42h76a50l 21C28h36a96l37u88p58a 6258170679843

Jenže takováhle data byste z normální společnosti nejspíš neměl dostat - pokud je distribuce lidí se špatnou znalostí pravopisu rovnoměrná a stejně tak i výskyt jmen, tak těch Lukášů s neznalostí pravopisu bude podobně, jako třeba Pavlů.

0/0
2.11.2017 20:45

E68d35u49a58r82d 95D20r22á53b18e39k 7537613399399

Výskyt jmen určitě není rovnoměrný a dost dobře může korelovat s úrovní pravopisu. Pro lepší představu zvažte třeba jméno Dežo...

V praxi dostnete spíš to, že černoši mají většinou horší platebí morálku. I poté jest stále diskriminací dávat někomu horší podmínky úvěru na základě toho, že je černej. To je prostě diskriminace, i když to máte podloženo statistickými daty. Protože upírat někomu rovné zacházení na základě toho, že jeho sourasovci mají horší platební morálku je prostě jasná diskriminace. Byť pro danou banku to může být lákavé a pragmaticky vzato by měla černochy rovnou ve dveřích vypklonkovávat, chtěla-li by se řídit jen statistikou (teoretizuji). Prakticky jí takové jednání společnost zakazuje, protože společnost chce být rovnostářská a zacházet rovně i s těmi, kteří se narodili s určitou barvou kůže.

0/0
4.11.2017 19:27







Najdete na iDNES.cz