Akú máme vlastne alternatívu voči umelej inteligencii?

Umelá inteligencia a jej uplatnenie v čoraz väčšom počte odvetví nášho života sa na nás hrnú každý deň. Prečítať si ekonomický časopis bez zmienky o AI, alebo s ňou súvisiacich tém, už ani pomaly nie je možné. Slovami pospolitého ľudu: “otvorím chladničku a sa bojím, že aj odtiaľ na mňa vyskočí umelá inteligencia”. (Čo sa mimochodom deje.) Ak máte aspoň špetku kritického myslenia v sebe, položíte si zrejme tú istú otázku ako Bobek otcovi Bobovi na povel o vstávaní a cvičení: “Ale prečo?!” (pre mladšie ročníky pripájam video na vysvetlenie)

Ako to už chodí, profesionálna slepota je pomerne silný jav. Neobišiel ani mňa. Denne musím rozmýšľať, ako vytvoriť alebo zlepšiť prediktívne modely a strojové uvažovanie. Preto postrčenie o tom, že prečo sa vlastne rútime touto cestou, som dostal od nečakaného autora. Naša komunikácia sa krásne vinula, keď zaznela tvrdá a dobre mierená otázka “Prečo ako ľudstvo investujeme toľké peniaze do toho, aby niečo iné bolo lepšie ako my? Kam by sme sa mohli posunúť, keby sa všetky tieto miliardy investovali do rozvoja ľudského intelektu?” Nadýchol som sa, že spustím niektoré z jasných výhod AI a … potom som prehltol danú vetu uprostred. To je vlastne fakt. Je k tomuto trendu alternatíva?

Bolo krásne jesenné popoludnie a my sme sa prechádzali so psami po jednom z nie mnohých Bratislavských parkov (btw, viete koľko stromov je v BA?). Snažil som sa svojej skvelej žene, ktorá je už niekoľko rokov uznávaným trénerom ľudských soft skills pre jednu veľkú firmu, popísať príklad AplhaGo a jej víťazstva nad majstrom sveta v hre GO. (tomuto prípadu sa mimochodom v našom seriáli o neurónových sieťach ešte budeme venovať). Pokojne si ma vypočula. Potom zastavila krok, pozrela sa na mňa bokom a spýtala sa: “Prečo ako ľudstvo investujeme toľké peniaze do toho, aby niečo iné bolo lepšie ako my? Kam by sme sa mohli posunúť, keby sa všetky tieto miliardy investovali do rozvoja ľudského intelektu?” Ako každý manžel na – pre mňa nepochopiteľné – nápady a postrehy svojej polovičky už som privykol. Ešte než sa však zo mňa vysúkala  odpoveď, musel som si priznať, že takto som sa na to pozeral. Existenciu umelej inteligencie som pokladal za akosi samozrejmú, rovnako ako drevorubač nerozmýšľa nad recykláciou papiera.

Táto provokatívna otázka ma donútila zamyslieť sa nad tým, či vôbec a akú vlastne máme alternatívu voči umelej inteligencii. Ale hlavne: Prečo sa ako ľudstvo tak pachtíme za pokrokom v umelej inteligencii? Nuž tak sa na to skúsme pozrieť spolu:

Prapôvodná motivácia

Na počiatku počítačov a ich užitočnosti bola túžba spočítať veci, pri ktorých sa človek môže mýliť. Hlavne komplikované výpočty na veľa desatinných miest. Jedinou alternatívou tej doby totiž bol papier a súčet pod seba. Voči tejto ambícií sa ťažko namieta, lebo vieme, že ľudia sú omylní. Férovo však treba dodať, že najmä bežní jedinci bez tréningu. Vystríhať sa chybám totiž dokážeme natrénovať. Dôkazom toho je team, ktorý som mal tu česť viesť v Poštovej banke. Asi tucet dám v strednom a staršom veku mali za úlohu denne každá pretypovať viac ako 10 000 dokladov o vkladoch a prevodoch z bankových účtov, ktoré klienti vypísali rukou. Napriek tomu, že išlo o monotónnu prácu (predstavte si, že prepisujete 8 hodín denne čísla z papiera do počítača), ich chybovosť bola na úrovni stotín promile. Teda jednu chybu urobili v priemere tak každý druhý týždeň. Ak k tomu pridáte krížovú kontrolu 4 očí, sme na úrovni jedna z 10 miliónov. Omylnosť teda nie je neprekonateľný argument.

Paradoxne, druhou motiváciou, ktorá podnietila výrazný rozvoj dopytu po počítačovej inteligencii, bola snaha ukryť niečo pred ostatnými ľuďmi. Šifrovanie a prelomenie šifier bolo výrazným impulzom pre výpočtovú techniku. Treba si uvedomiť, že tento motív bol zároveň prvým, ktorý bol namierený priamo proti ľuďom. Na prvý pohľad teda ťažko hľadať alternatívy. Idealistickejšia duša by mohla namietať, že keby sme si ako ľudstvo viac dôverovali, nebolo by treba šifrovať. Ale to je tak široká téma, že asi ťažko dúfať v úspech, keď aj triviálne správy zo svojho života sme vždy posielali v zalepenej obálke. Potreba šifier proste súvisí s možnosťou manipulovať druhými. A tej sa ľudstvo proste nechce (a zrejme tak skoro ani nebude chcieť) vzdať.

Tak sme sa postupne prepracovali k tretej motivácií, ktorá viedla ľudstvo k masívnemu používaniu počítačov: pohodlnosť. Tak ako iné stroje, aj počítače vhodne brnkli na našu strunu komfortu, či priam lenivosti. Iste, aj človek dokáže vyskúšať hľadať riešenie numerickej optimalizácie, ale keď môže dosadiť do rovníc 20 000 rôznych alternatív počítač, prečo by sa s tým páral nejaký smrteľník, nie? Najútrapnejšie na tom celom je, že dôvodom pre použitie počítačov nebola vyššia inteligencia počítačov pri hľadaní správnych riešení, ale hrubá sila. (rýchlosť akou dokázali zadať veľa zlých riešení, aby ich vylúčili až kým nenájdu tie správne) Pri tom, vo svojom živote som stretol hneď niekoľko ľudí, ktorí oplývali výnimočným talentom na bleskové výpočty. Mladšie ročníky možno zas prekvapí, že aj na výpočet odmocniny existuje „papierový postup“, takže ju vieme (v hlave) zrátať úplne bez kalkulačky.

Iste, zrejme aj s rozsiahlym tréningom by nik z ľudí nebol schopný zrátať milióny výpočtov za sekundu, ako sú schopné dnešné moderné procesory. Ale pre korektnosť diskusie treba povedať, že aj najvyspelejšia umelá inteligencia dospela k tomu, že nie je efektívne budovať stále väčšie a väčšie procesory, ale je nutné zapriahnuť viacero bežných procesorov do spoločného výpočtu. Ak teda zoberiete do úvahy, že iba jednotky percent ľudí sa živia tým, že niečo celý deň v hlave počítajú, stále sme mali aj ako ľudstvo rezervy, na ktoré sme nesiahli, kým sme sa vrhli na pospas umelej inteligencii. V tomto duchu úvaha mojej manželky naozaj zostáva na zamyslenie: Prečo sa ľudstvo rozhodlo budovať lepšiu elektrónkovú krabicu než zlepšovať inteligenciu ľudí okolo nás?

Klinec do rakvy

klinecTo všetko by sa dalo ešte zvrátiť, keby v tom celom procese ľudstvo neurobilo ešte jedno podstatné rozhodnutie. Dlhé desaťročia zamestnávala inžinierov a technikov snaha nahradiť čo najviac manuálnej práce robotmi. Na začiatku 90tych rokov svoje úsilie viac menej dokonali a tak ich, ľudovo a trochu vulgárne povedané, začali „opäť žrať mrle“. A tak výskumné centrá po celom svete sa postupne vrhli najprv na simulovanie, neskôr na kopírovanie, ľudských rozumových procesov. Aby to bolo možné, museli najprv stroje skopírovať naše kognitívne zmysly. Tak sme naučili počítače najprv čítať text, potom analyzovať hlas a obrazový vnem, tak ako to robíme my. Len čo stroje boli schopné „vnímať okolie“, začali sme ich učiť jednoduché vzorce rozmýšľania. (ak klesne teplota pod túto hranicu, tak spusti kúrenie, …) Avšak keďže ani svoj proces rozmýšľania nemáme detailne popísaný, čoskoro sme narazili na problém, že niektoré postupy nevieme pre počítače zapísať jednoduchou algoritmickou ak-tak reťazou. Tak sme sa rozhodli nechať počítač skúšať daný krok toľko krát až sa to (opakovane) naozaj podarí a nechať ho odvodiť si pravidlá, ako má rozhodovanie fungovať. Oblasti, kde sme dodnes nie schopní poskytnúť počítaču dostatočné podklady na jeho pokus-omyl učenie, zatiaľ počítače nezvládajú.

Kam to (na)smeruje(me)

Z vyššie uvedených faktov je zrejmé, že nástup umelej inteligencie nebol nevyhnutný, a tento vlak sme do stanice nasmerovali my ľudia. Najprv netrpezlivosťou k vlastným omylom, neskôr podozrievavosťou k ostatným ľuďom a nakoniec „lenivosťou“ k opakovaným mentálnym úkonom. Bez toho, že by som bol nejaký rojko, nie som si úplne istý, či ľudské schopnosti dostali férovú príležitosť „dorovnať“ umelú inteligenciu.

Keďže aktuálne už sme pokročili opäť o krok ďalej, dnes už vyvíjame univerzálnu umelú inteligenciu, ktorá dokáže rozmýšľať nad tým, či správne rozmýšľa. Existuje už dokonca niekoľko rôznych spôsobov, ako počítače učiť ľudské postupy. Áno, zostáva niekoľko oblastí, kde zatiaľ nie je jasné, ako ich stroje naučiť, ale stačí jeden či dva výskumné projekty, ktoré si dajú tú námahu zozbierať dosť (rozumej milióny) príkladov na daný jav a aj tieto nedokonalosti budú prelomené. Nech sa na to pozerám z ľubovoľného hľadiska, „džin je von z flaše“ a proces dorovnania a následne prekonania ľudského rozmýšľania pomocou strojov je neodvrátiteľný. Aké možnosti nám teda ešte zostávajú?

Tá najnaivnejšia alternatíva je to celé zastaviť. Zostáva ešte niekoľko schopností, ktoré stroje nemajú a nebudú ich mať, kým im ľudia neukážu, ako sa ich naučiť. Ale keď to čítam po sebe, pripadá mi to ako výzvy na zbúranie strojov, ktoré mali zobrať prácu robotníkom pri predchádzajúcej priemyselnej revolúcii. Tento scenár pokladám za vrcholne nepravdepodobný.

Druhou možnosťou je použiť vyvinutú umelú inteligenciu, aby spätne podporila rozvoj ľudí. Ak si spomeniete na rok 1996, keď Gary Kasparov hral proti počítaču, prvú hru prehral. Medzi svojimi súčasníkmi nemal ľudského oponenta, ktorý by ho priviedol tak do úzkych. Pod stimulom tvrdého počítačového oponenta sa však dokázal vypäť k ešte väčšiemu výkonu a celkovo počítač poraziť. Ak by sme teda použili umelú inteligenciu na stimuláciu ľudského rozvoja, v niektorých oblastiach by sme dokázali opäť získať prevahu. To by však znamenalo pridať do AI vrstvu, ktorá vysvetľuje človeku nové princípy, na ktoré „sama prišla“.

čipTreťou možnou alternatívou k dominancii umelej inteligencie je vyskúmať, ako umelú inteligenciu včleniť do tej ľudskej. Teda nájsť spôsob ako náš biologický mozog môže (pomocou implantátov) byť doplnený o ďalšie vrstvy z umelej inteligencie. S veľkou mierou nadsádzky by sa to dalo prirovnať k tomu, keď do foťáku vložíte pamäťovú kartu. Týmto spôsobom by všetky úspechy AI sa stali okamžite aj rozšírením ľudského potenciálu. Tento princíp v sebe skrýva mnohé morálne riziká (kto bude mať právo programovať hlavy iným), ale na druhej strane odvracia hrozbu nadvlády strojov nad človekom.

Tak či tak …

Napriek povzbudeniu v predchádzajúcich odsekoch, obávam sa, že nemám happy-end pre tento príbeh. Aby sme totiž mohli aspoň čiastočne vrátiť späť ručičku na váhach inteligenčných schopnosti smerom k ľudstvu, potrebovali by sme dva dôležité predpoklady: A] Zdroj informácií nezávislý od počítačovej infraštruktúry (ináč časom nebudeme vedieť rozlíšiť, čo je skutočný fakt a čo je počítačom vygenerovaný údaj). Teda v skutočnosti presne opačný odklon od cloudu, do ktorého smerujeme. A k tomu B] rýchlu replikovateľnosť poznania medzi ľuďmi, najmä naprieč generáciami. Na rozdiel od strojov, ktorým sa naše schopnosti stačí naučiť raz a potom si ich pre budúce stroje uložiť do pamäte, my, ľudia, sa musíme celé poznanie ľudstva naučiť v každej generácii znova. V oboch prípadoch síce existujú teoretické riešenia, ale nevidím ich na horizonte najbližších rokov. Vzhľadom na rýchlosť napredovania umelej inteligencie, by sme sa teda mali pripraviť na scenár, že dosiahneme singularitu (pozri viac tu) a spoločenské javy z nej plynúce. Tie najbližšie, ktoré si rozoberieme aj tu na mocnedata.sk sú silná vlna nezamestnanosti a kríza kariérneho smerovania.


Publikované dňa 10. 1. 2018.