OKO, UCHO, CHARITA aneb O tom či KLAME VIAC AI alebo RADOVÝ ČLOVEK

Technológie umelej inteligencie zaznamenali míľové pokroky za posledné roky. Počítače a AI algoritmy si postupne dovoľujú preberať úlohu našich zmyslov. Stroje vedia analyzovať náš hlas (a spätne ho syntetizovať tak, že ho nerozoznáme od originálu). Keďže však gramoplatne a záznam zvuku tu máme už niekoľko generácií, nevzbudzuje to v nás až taký údiv. Za to, keď Google, Facebook alebo iné aplikácie dokážu rozpoznať tvár v dave a priradiť ju k človeku, zostávame (v lepšom prípade) rozčarovaní, v tom horšom priam rozhorčení. Ako to už býva, technológie nám zasadili aj v tejto oblasti nový, na cti utŕhajúci úder. Dokážu nás presvedčiť, že existujú ľudia, ktorí nikdy nežili.

Profesori Jevin West and Carl Bergstrom z University of Washington vytvorili pomocou AI sadu niekoľkých tisícov umelých fotografií tvári ľudí rozličného veku, pohlavia a rasy. Následne, pomocou web aplikácie sa im podarilo naverbovať viac ako pol milióna reálnych respondentov, ktorí  zrealizovali viac ako 6 miliónov kôl hádania, ktorá z dvojice zobrazených fotografií je tvárou reálneho človeka a ktorá len počítačovo vytvoreným podvrhom. Výsledky, ako som už spomínal vyššie, boli celkom zdrvujúce. Ľudia dokázali odhaliť vymyslené fotky len v 60% prípadoch.

sok nad mincou

FLIP_a_COINAk vám to znie ako dostatočne dobré číslo, skúsim to dať trochu do kontextu. Keby ste si hádzali pri každej fotke korunou, mali by ste v priemere úspešnosť 50%. Tých dodatočných 10% nad úroveň mince neznie ako pýcha pána tvorstva. Čo je ešte viac znepokojujúce, že aj trénovaní experti, ktorí prešli mnohými kolami kvízu a dostali od tvorcov fotografiu spätnú väzbu, kde sa pomýlili, nedokázali pokoriť hranicu 74%. Teda aj experti stále v štvrtine prípadov nedokázali odhaliť podvrh stroja.

Zaujímavé na tomto experimente bolo však ešte niečo iné. Niektoré tváre dokázali „oklamať“ výrazne väčší počet ľudí ako iné. Mnohí by sme predpokladali, že práve niektoré typické regionálne znaky tváre alebo črty konkrétnej rasy budú tým hlavným diferenciátorom. Prekvapivo bolo to práve pohlavie ľudí na fotkách, ktoré vytváralo veľké rozdiely. Vymyslené mužské tváre pôsobili presvedčivejšie: Napriek reprezentatívnemu zastúpeniu oboch pohlaví vo vzorkách “foto podvrhov”,  mužské neexistujúce tváre sa nachádzajú v top 100 mätúcich fotkách až o 30% častejšie ako ženské.

Interpretovať sa to samozrejme dá rôzne. Ale štúdie z minulosti nepotvrdili, že by sme lepšie alebo horšie pamätali tváre reálnych živých mužov či žien vo všeobecnosti. Hoci túto tému článok venovaný v časopise WIRED (7-8/2019) danému  experimentu nerozoberá, z uvedeného experimentu vyplýva, že morfológia ženskej tváre je pre umelú inteligenciu asi ľahšie napodobiteľná (alebo napriek tomu, že dodávame približne rovnako veľa trénovacích predlôh na učenie AI modelu z oboch pohlaví, mužské tváre je komplikovanejšiue pre umelú inteligenciu zreplikovať rovnako verne ako tie ženské).

Experiment ukázal ešte jeden dôležitý aspekt pre konzumovanie digitálneho obsahu. Ľudia, ktorí sa zapojili do experimentu cez mobil dosahovali až o polovicu horšiu úspešnosť ako respondenti, ktorí si mohli prehliadnuť fotky na veľkom monitore stolového počítaču. To samozrejme nie je samo o sebe príliš prekvapivé, lebo na odhalenie podvrhu sú často dôležité práve detaily (napr. vo vlasoch alebo ušných lalokoch). Avšak v dobe, keď už viac trávime so smartfónom ako pred veľkou obrazovkou a väčšinu digitálneho obsahu konzumujeme práve z mobilu, nás to robí ešte viac zraniteľných proti podvrhom tohto typu.

No a čo?

Ok, tak počítače vedia vyrobiť fotky, ktoré pokladáme za reálne, hoci daný človek v skutočnosti neexistuje. A prečo by nás to malo vlastne trápiť? Nuž schopnosť Umelej Inteligencie vytvárať pre nás virtuálnu realitu sa opäť posunula o výrazný krok ďalej. Ak v minulosti na vytvorenie hoaxu (napr. ohľadne utečencov) bola použitá napríklad fotka, ktorá sa dalo ľahko označiť za poplašnú správu, lebo v skutočnosti pochádzala z úplne iného miesta a času, dnes je možné vytvoriť fotografiu s reálnymi „ľudskými“ tvárami ktorá nebude dohľadateľná a teda ani identifikovateľná ako lživá. Navyše, keďže tvár žiadnej z osoby na fotke neprináleží nikomu z reálnych ľudí, nik ani nemôže napadnúť daný podvrh s tým, že „on(a) tam vôbec nebol“. Podobne, rôzne zúfalé prosby o darovanie peňazí, krvnej plazmy, či iných vecí pre choré deti a iné reťazové FB výzvy sa dajú vyrábať strojovo, čo môže výrazne poškodiť skutočné charitatívne organizácie, ktoré sa snažia úprimne pomôcť. Tie skutočné prosby nebudú odlíšiteľné od falošných a to je pre ľudí naozaj v núdzi zlá správa.

V neposlednom rade, o čo precíznejšie dokážeme nasimulovať ľudskú tvár, o to hlbšie sa ponárame do rizika deep-fake videí, ktoré boli predikované ako jeden z hlavných tém na AI trendov v posledných rokoch. Len pripomínam, že pri uvedení filmu Matrix sa nám zdala miera „vernosti“ virtuálnej reality, ktorej bol Neo podrobený než si vybral správnu tabletku, úplne sci-fi. A to nebolo tak dávno dozadu. Dnes už sme na prahu virtuálnej reality presne takej kvality, ako film popisuje. Nekonšpirujem ani nič tým nepodsúvam, ale je dôležité si to uvedomovať. A zvýšiť ostražitosť k tomu, čo vidíme „na vlastné oči“.

Oko za oko,  …   

eye_for_an_eyeNástupu AI nadvlády nad našimi zmyslami sa však nemusíme len odovzdane prizerať, môžeme sa mu do istej miery aj brániť. Je to síce trochu v duchu „Oko za oko, zub za zub“ , ale v digitálnej podobe to menej bolí ako vo fyzickom svete. Obranou nám je fakt, že keď obrázky rozoznáva stroj, správa sa pravdepodobnostne. (Inými slovami má stanovený určitý prah pravdepodobnosti na koľko sa daná vec podobá svojej predlohe a zhodu potvrdí až keď si je na „dostatok“ percent istá. ) To nám dáva šancu bojovať rovnakou zbraňou ako AI stroje sa snažia oklamať nás. Existujú totiž už služby ako D-ID (o ktorej viac tu). Ich úlohou je pozmeniť na Vašich fotkách niekoľko drobných detailov do podoby, že každé ľudské oko vás bez problémov spozná, ale žiaden z voľne dostupných algoritmov na rozpoznanie tváre vás nebude vedieť stotožniť. To samozrejme funguje však iba na statických fotkách, ktoré máte šancu upraviť, kým ich posielate niekam na spracovanie. Trochu zložitejšia je obrana proti Face recognition v reálnom čase (napríklad v dave na koncerte)  V niektorých krajinách (ako napr. Hong Kong), kde odčítavanie tvári z davu štátnymi úradmi ja považované za – jemne povedané – neférové, ľudia preto začali nosiť špeciálne oblečenie a doplnky, ktoré znemožňujú identifikáciu osoby tým, že snímok tváre „zamlžujú“ neviditeľným svetelnými efektmi alebo maskovaním dôležitých bodov pre rozpoznanie tváre. A tak klameme späť stroje, ktoré sa snažia oklamať nás. Veď vravím: „Oko za oko, ušný lalok za ušný lalok …“