Společnost Sony dnes představuje první čip, který do obrazového snímače integruje procesory pro zpracování obrazu pomocí umělé inteligence. Na jeho výstupu tak není jen obrazový signál, ale i metadata odpovídající použitému modelu – například informace, že v záběru je pes na louce, snímaný člověk je mladá žena, lidé v záběru nemají roušky a ochranné brýle, že je v daném prostoru překročen maximální počet návštěvníků nebo že se v továrně do vyhrazeného koridoru dostala překážka.
Takovéto věci zatím buď zpracovávala další výkonná elektronika v zařízení, ve kterém byl obrazový snímač namontován, nebo cloudový systém, na který byla data z kamery posílána.
Výstup z čipu obsahuje metadata – například popisující obsah obrázku.
Výhodou integrace přímo v čipu je především rychlost – díky společné integraci snímače, procesorů a paměti probíhá analýza obrazu velmi rychle. Podle výrobce zvládne systém vytvořit inference pro 30 snímků za sekundu a v MobileNet V1 dosáhl výsledku 3,1 ms. To vše s údajně s velmi příznivou spotřebou energie. Její přesnější hodnotu, stejně jako bližší informace o výkonu procesorů, nám zástupci firmy neprozradili. Víme ale, že čip má rozlišení 12,3 Mpix, takže na výstupu nabídne 4K obraz, pro AI zpracovní jde ale nižší, FullHD, rozlišení.
Mimo rekordní rychlosti zpracování může být tato integrace i důležitým bezpečnostním prvkem. Systém může být totiž nastaven tak, že čip žádná obrazová data ven neposílá – pouze metadatový výstup z AI modelu. K záběrům a fotografiím by se tak jen obtížně mohla dostat neautorizovaná třetí strana, protože tato data vůbec neopustí čip a po zpracování obrazovým procesorem jsou z vnitřní paměti zahozena.
Struktura čipu IMX500
Čipy budou v nabídce ve dvou variantách – samotný čip a takzvaný „package“ – tedy včetně podpůrných obvodů a standardizované sběrnice. Vzorky první varianty již míří k integračním partnerům, za cenu 10 000 JPY bez daně (2 364 Kč), druhá varianta by měla přijít o měsíc později za cenu dvojnásobnou.
Příklady použití
Společnost Sony bude čip nabízet jednak s vlastními AI modely, na jejichž „katalogu“ se již pracuje, jednak svým zákazníkům pomůže s integrací jejich vlastních modelů podle jejich vlastní potřeby a požadavků.
Příklady použití
Na otázku, zda se tyto čipy v dohledné době dostanou i do spotřební elektroniky, nám zástupci společnosti během komorní webexové tiskové konference neodpověděli. V kameře pro PlayStation nebo třeba v chytrých telefonech by mohly přinést řadu dnes jen obtížně realizovatelných aplikací.
Začátek nové éry?
Sony je předním výrobcem obrazových čipů, jen na poli chytrých telefonů má dle dostupných údajů lehce přes polovinu trhu. Podle zástupců společnosti nyní nastává zlom, kdy obrazové snímače nebudou především zdrojem obrazu pro jeho opětovné zhlédnutí, ale zejména zdrojem dat. Například autonomní systémy a různé roboty tak budou moci kombinovat ohromné datové zázemí cloudových „backendů“ s vizuálními daty získanými v reálném čase.
