Obavy z technologie rozpoznávání obličejů a jejího zneužití vládami, policií a dalšími subjekty vedly společnost Meta, která vlastní sociální síť Facebook, k odstranění informací o obličejích více než jedné miliardy lidí. Firma uvádí, že ke kroku přistoupila i proto, že regulační orgány dosud nestanovily jasná pravidla využívání této technologie.
Facebook was one of the first companies to deploy face recognition at scale. Today @meta is announcing that it is turning it off. #ResponsibleAI is often deciding when to use, or in this case, not to use, AI. https://t.co/bPiUCpIT8G
Z podobných důvodů zastavila před rokem práci na systémech pro rozpoznávání obličejů i firma IBM, jež loni dokonce přestala nabízet systémy pro rozpoznávání a vyhodnocování obličejů některým složkám.
Etické otázky
„Tato změna bude mít dopad také na funkci Automatic Alt Text (AAT), která vytváří popisy obrázků pro nevidomé a zrakově postižené. Po této změně již nebudou popisy AAT obsahovat jména lidí rozpoznaných na fotografiích, ale jinak budou fungovat normálně,“ uvedl v úterý viceprezident Facebooku pro umělou inteligenci Jerome Pesenti na blogu.
Technologický sektor již několik let bojuje s kritikou používání této technologie kvůli etice. Podle kritiků by tato technologie mohla ohrozit soukromí, zaměřit se na okrajové skupiny a normalizovat dotěrné sledování.
Více než třetina aktivních uživatelů Facebooku dovolila, aby síť rozpoznávala jejich obličeje. To je asi 640 milionů lidí. Firma tuto funkci zavedla před více než deseti lety.
Avšak v roce 2019 ukončila systém, který pomocí obličejů identifikoval přátele uživatelů na nahraných fotografiích, a automaticky jim navrhovala, aby je označili. Místo toho nahradila návrh na označení nástrojem pro rozpoznávání obličejů, který identifikuje obličeje lidí na fotografiích pro různé účely, nejen pro označování. Společnost byla podle agentury AP zažalována v Illinois kvůli zmíněné funkci navrhování označení a v důsledku toho souhlasila se zaplacením 550 milionů dolarů.
Technologie rozpoznávání obličejů se nyní omezí jen na určité služby, jako je pomoc lidem získat přístup k jejich uzamčeným účtům nebo odemknutí zařízení.
„Rozpoznávání obličeje může být obzvláště cenné, pokud tato technologie funguje soukromě na vlastních zařízeních,“ popisuje nový pohled Facebooku na blogu Pesenti.
Současný krok se vztahuje na uživatele po celém světě a má být dokončen do prosince.
Facebook pod palbou kritiky
Firma Facebook, která minulý týden oznámila své přejmenování na Meta, je nyní v hledáčku regulátorů a zákonodárců kvůli bezpečnosti uživatelů a rozsáhlým případům podvodů na svých platformách.
Společnost čelí také zřejmě největší krizi ve vztazích s veřejností poté, co uniklé dokumenty od informátorky Frances Haugenové ukázaly, že firma věděla o různých problémech s dezinformacemi či nenávistnými projevy na síti, aniž by proti nim zasáhla. Vyplývá z nich, že upřednostnila zisk před bezpečím uživatelů.
Některá města v USA již zakázala použití softwaru pro rozpoznávání obličejů policií a dalšími městskými orgány. Jako první město tuto technologii v roce 2019 zakázalo San Francisco.
