(Nejen) Rosův dávný sen
Snad každého po oznámení přepadly mrákoty nad možná příliš ambiciózními plány. Přeci jen, strojová inteligence je snem snad už od 50. let 20. století. Během 80. let bylo předpovídáno, že AI je doslova za rohem. Podobně jako studená fúze nebo komerční lety do vesmíru je však umělá inteligence jednou z technologií, které jsou permanentně čtvrtstoletí od realizace – letos ostatně skoro na rok přesně, poněvadž optimisté kolem Raye Kurzweila předpovídají extrapolací Mooreova zákona vznik nadlidské AI na rok 2029. Opravdu doba uzrála natolik, aby současné vize nebyly podobně nereálné jako dříve?
Do výzkumu AI dnes ročně tečou stovky milionů dolarů. I když na vznik "silné AI" (strong AI, také známá jako broad AI nebo general AI), v protikladu k "slabé AI" (weak AI, také známá jako narrow AI), zatím zjevně nedošlo, nedá se říct, že výsledky určitého pokroku nejsou vidět již dnes. Známe obrazy detekující weak AI i samořídící vozy od Googlu. Pak je tu Watson od IBM, sociální sítě, akademické experimenty a hory dalších vlaštovek. Odhaduje se, že v roce 2019 bude mít trh s umělou inteligencí hodnotu víc než 15 miliard dolarů. Může tedy primárně československé studio skutečně udělat tak významnou stopu na poli výzkumu? Marek Rosa věří, že ano.
"Zmíněné příklady jsou technologie na špičkové úrovni, ale pořád se jedná o tak zvanou narrow AI, která je dobrá jen pro jednu konkrétní věc, pro kterou byla vyvinuta. Jsou to, zjednodušeně řečeno, nástroje pro optimalizaci založené na statistice. Není to kreativní inteligence se schopností sama se učit, adaptovat se a vynalézat řešení pro nové úkoly," odpovídá Rosa na srovnání s konkurencí.
"Dnes bychom s naší technologií nemohli konkurovat AI na rozpoznávání obličejů od Facebooku, ale o to se ani nesnažíme, náš cíl je jinde. Nechceme, aby naše AI například hrála hru Breakout nejlépe na světě. Chceme ale, aby se naučila hrát hru stejnou cestou, jako člověk. Jde nám o rozluštění principů inteligence. Společností se stejnými cíli není mnoho."
Program, který se učí
Dnešní nástroje jdou navíc dle Rosy na ruku mnohem rychlejšímu tempu vývoje AI než dříve. Startupová mentalita znamená sice větší počet konkurentů, ale i silnější motivaci ke spolupráci. "Zásadní rozdíl (oproti vývoj AI dříve) je v tom, že dnes se výzkum opravdu posunul z teorie do praxe. Hodně týmů po světě začalo spolupracovat, řada zdrojů jsou open source,“ zvažuje Rosa vyhlídky GoodAI. „I my jsme vydali náš nástroj pro prototypování umělých mozků, Brain Simulator, jako open source v rámci nekomerční licence. Chceme podporovat spolupráci v odborné komunitě a inspirovat lidi, kteří si cestu k serióznímu výzkumu teprve hledají."
"Schopnost učit se odměnou a trestáním je jenom jednou ze složek inteligence, ale zároveň je jedním z hlavních prostředků, jak inteligenci rozvinout," věří Rosa, že pokud se jejich nástrojům podaří nastavit taková přesná kritéria, silná umělá inteligence bude schopna růst sama o sobě. "(V dětství se) rozvíjí logické myšlení, člověk se učí abstrahování, plánování. Zároveň platí, že inteligentní chování člověku umožňuje jeho biologie, vrozené předpoklady, na které se všechny zkušenosti nabalují. V případě umělé inteligence by to musela být flexibilní a adaptivní AI architektura, o kterou v GoodAI usilujeme."
Otázkou je, jestli se například řada futuristických aplikací pro AI – například vojenské, ale klidně i záchranářské – kvůli svému riziku pro nositele nepere se sebeuvědomělou AI. U té totiž přece lze v principu předpokládat snahu o vlastní přežití.
Rosa v odpovědi odhaluje další část toho, jak by se počítače měly učit sami, nikoliv spoléhat na přednastavená kritéria morálky: „Je to otázka preferencí, a ty u robota můžeme nastavit a ovlivňovat my lidi jakožto autoři, nikoliv příroda skrze evoluci. Robot pak musí buď mít některé pudy potlačeny, nebo mít pochopení pro hodnotu lidského života. Nezní to jednoduše, ale výzkum univerzální umělé inteligence ve světě se skutečně ubírá tímto směrem: klademe si otázku, jak naučit AI chápat lidské hodnoty,“ namísto pevných Asimových zákonů je tak prý třeba upnout pozornost hlavně na chápání.
„Zapsat hodnoty nebo pravidla do kódu není řešení. Jednak, určitě na něco zapomenete nebo vytvoříte nějaký logický paradox. Jednak, lidské hodnoty se vyvíjí, ale hlavně by s námi silná AI měla minimálně držet krok, ne-li nám jít příkladem."
První dopad AI: hry
Jak vidno, samotný byznys plán GoodAI zůstává zatím, vzhledem k cílům společnosti, stále poněkud nejasný. "Hledáme a budeme hledat takové business aplikace, ve kterých naše univerzální AI bude mít reálné využití již ve stadiu vývoje a učení se. Podmínkou je, že takové aplikace by měly podpořit, nikoli zpomalit náš výzkum," říká Rosa.
Je evidentní, že než společnost přijde s aplikovatelnými nástroji, bude třeba ještě pořádný kus základního výzkumu. Analytici přitom předpovídají, že úzce zacílená slabá AI přijde na trh během dekády skrze jednodušší asistenční nebo analytické aplikace – přeneseně řečeno bude blíže lepší Siri než HALu 9000.
Jistě, již teď nemá GoodAI v plánu zůstat pouze u „akademické“ stránky vývoje. "Naše umělé mozky jsou zatím čistě softwarová záležitost. Vidím ale velký potenciál ve spolupráci s robotickými společnostmi, které by pro náš AI mozek dodaly robotické tělo," spekuluje Rosa nad jednou možností výdělku a spolupráce. Později uvádí další možnosti využití AI: "Jsme například v kontaktu s Machine Intelligence Research Institute a Future of Life Institute. Věnují se otázkám dopadu AI na lidstvo a my se od nich učíme a chceme jim časem pomoci s testovacími příklady."
Je otázkou, jak dlouho může GoodAI finančně vyžít z prodeje her od Keen Software House a z financí od případných investorů, když vedení deklaruje poměrně antitržní postoj. "Naším cílem je univerzální AI, proto se nechceme zbytečně brzy zaměřovat na specializované vertikální oblasti," pokračuje Rosa, opakujíc výrazy jdoucí proti nynějším trendům aplikované slabé AI.
Zřejmě nejzajímavěji znějícím řešením hlavolamu, jak bude GoodAI vlastně vydělávat, je možnost, že její produkty zpětně podpoří prodej her od Keen Software House, potažmo i jiných her, pokud se Keen rozhodne technologii licencovat. Právě uplatnění předchůdce silné AI v herní sféře totiž v první fázi působí nejnadějněji. Snad krom tržních předpovědí a vojenského uplatnění není mnoho dalších způsobů, jak přímo aplikovat silnější AI, než jsou herní virtuální světy. A přestože by bylo naivní si myslet, že na silné AI usilovně nepracují vojenské instituce (ostatně DARPA sama oficiálně deklaruje velký zájem o AI na mnoha polích), ze značné nechuti k dálkově řízeným válečných strojům, natož zcela autonomním strojům, nebude reálnou verzi Skynetu ještě dlouho možné nasadit přímo v poli - i kdyby nakrásně byla zítra odhalena.
"AI ve hrách jak jí známe je naskriptovaná, není adaptivní, a tudíž má hodně omezení. Vývoj lepší AI je hodně náročný a málokdo si ho může dovolit uvnitř videoherního studia," popisuje Rosa současný stav na trhu. V kontextu Space Engineers a Medieval Engineers by to znamenalo například příchod AI služebníků, které by hráči mohli "modulárně" učit nových schopnostem podobně, jak dnes po vzoru Minecraftu sestavují virtuální lodě, zařízení nebo budovy. Že by GoodAI fungoval na úkor her Keen Software House, se Rosa nebojí: "Keen Software House a GoodAI jsou dvě rozdílné společnosti, každá z nich zaměstnává tým zhruba 30 expertů na daný obor. Obě společnosti mají vlastní plán."
Mecenáš nebo mesiáš?
Pro technické informace o učící se AI musí čtenáři navštívit stránky GoodAI, Rosův blog nebo si vyslechnout hodinovou přednášku z letošního června (viz video níže). Nejste totiž schopný objektivně posoudit, nakolik jsou nebo nejsou plány GoodAI na samostatně se učící inteligenci využitelné pro vznik skutečné silné AI – krom odborníků, a i ti spolu mnohdy nesouhlasí, to snad nemůže dokonale posoudit nikdo, možná krom majitelů křišťálové koule.
Snaha přijít v tuzemském kontextu s něčím podobně významným by však mohla být odměněna minimálně respektem, když už ne stoprocentní podporou a neúměrným entusiasmem. Ke cti GoodAI je navíc nutno zmínit, že se Marek Rosa rozhodně neohání nějakým šíleným časovým harmonogramem. „Na otázku, kdy vyvineme silnou AI, neznám odpověď. Může to být zítra, za pět let, za dvacet let. Určitě si myslím, že to bude v tomto století. Ale moje filozofie je, dnes už bylo pozdě: každý den, kdy nemáme univerzální AI, o něco přicházíme, a tento pocit mě a můj tým žene jako motor dopředu."
Nelze si však na druhou stranu objektivně nevšimnout skoro až mesiášského podtónu Rosových vizí toho, co by silná AI – zamýšlený hlavní přínos GoodAI – mohla lidstvu přinést. "Přemýšlím už jen o velkých vizích budoucnosti s general AI,“ odpovídá Rosa na otázku, má-li v zásobě i další velké sny, které by si chtěl splnit. „S univerzální AI budeme moci čelit smrti, posunout na vyšší úroveň lidské tělo a rozum, najít společenský model, který bude maximalizovat svobodu každého jednotlivce bez anarchie, a tak dále,“ dodává Rosa.
Na jednu stranu je utopický cíl pochopitelný – asi málokdo si založí společnost s plánem, že pravděpodobně po čase zkrachuje a zemře zapomenut. Rosovy teze navíc přesně zapadají do okruhu fanoušků technologické singularity, jak ji postuloval Ray Kurzweil. Podle ní stojíme sotva pár dekád od drastické proměny nejen informačních technologií, ale i jejich vlivu na člověka a jeho společnost. Výrazy jako technologická nesmrtelnost a transhumanismus rozhodně zní z úst více lidí než jen Rosy, jsou však stále na světelné roky vzdálené od dnešních technologických problémů. Nelze se proto zároveň divit, že podobné výroky mohou navenek zároveň působit přinejlepším značně naivně.
Značné části kritiky vůči GoodAI v diskuzi u nás na Games.cz, ale i jinde na webu, ovšem bohužel uniká pointa založení společnosti – Marek Rosa do GoodAI vložit pouze své peníze. Ať už GoodAI pomůže změnit svět k lepšímu, či po letech výzkumu slepé uličky skončí špatně, snad krom budoucích investorů a samotného Rosy na tom nikdo nic netratí. Zvláště v éře, kdy každý druhý crowdfundongový projekt nesplní své úvodní cíle a vztah veřejnosti vůči veřejným financím je plný hrubého cynismu, je míra negativismu vůči Rosově veskrze soukromě financovanému startupu zarážející.
Je samozřejmě zdravé udržovat si vůči bezbřehým ambicím střídmou míru pesimismu – pokud však výzkum AI nezkusí nové přístupy a neudrží si ambiciózní cíle, nebude silná AI vzdálená ani těch „15 let“, ale zmizí navždy. Jsou to právě snílci, kteří technologická paradigmata mění, ač si při své snaze drtivá většina z nich nabije bradu.
Doposud si Rosa všechny své cíle splnil, jeho přístup ke GoodAI je proto rozhodně pochopitelný. Jenom čas a kvanta propálených dolarů samozřejmě ukáží, nakolik se mýlil či měl pravdu. "Jednou to ale dopadne jako s grafikou v hrách,“ věří Rosa. „Dnes jako nikdy se blíží realitě, ale vzpomeňte si, jak to vypadalo před dvaceti lety."
