Umělá inteligence kolem nás

Turingův test a otázka, zda stroje mohou myslet, jsou témata fascinující již mnoho desetiletí i lidi pohybující se jinak mimo svět IT. Stala součástí populární kultury. Během uplynulých desetiletí jsme při výzkumu umělé inteligence získali odpovědi na mnoho otázek, které nebyly původně vůbec položeny. Některé z problémů se ukázaly překvapivě těžké, jiné překvapivě snadné, další pak byly odloženy jako vadně formulované.

V češtině letos na jaře vyšla kultovní kniha Douglase R. Hofstadtera Gödel, Escher, Bach. Dostaneme se k ní ale trochu oklikou, nejprve se podívejme na pár aktuálních novinek z oboru.

Robotí samoomluva
Asi nejjednodušší implementací Turingova testu je konverzace mezi člověkem a neznámou entitou. Poznáte, zda partnerem v rozhovoru je tvor z masa a kostí, nebo software? Pokud to rozlišit nedokážete, pak proti sobě máte entitu, které lze rozumně připisovat inteligenci, myšlení i vědomí. To byl alespoň názor slavného britského matematika Alana Turinga, od jehož narození letos uplynulo 100 let.
Už v 60. letech se objevila známá Eliza, program, který předstíral, že je psychoterapeutem. Již tento první pokus dokázal řadu lidí ošálit a byli ochotni trávit dlouhý čas příslušnou konverzací.
Později byly napsány programy, které předstíraly i jiné lidské role včetně duševních poruch (paranoik Parry). Pořád šlo ale o chatboty jednoúčelové, které nezvládaly komplexnější konverzaci. I když se postupně zdokonalovaly a začaly například prohledávat Internet a různé databáze, aby tak zakryly svoji neznalost reálného světa, Turingovým testem jako celkem dosud žádný z nich neprošel. Od roku 1989 se za tímto účelem každoročně koná tzv. Loebnerova cena, odměna 100 000 dolarů pro pokořitele Turingova testu ale dosud svého vlastníka nenašla.
Existují i různě modifikované přístupy k problému, například zkoumání konverzace automatů mezi sebou. Eliza a Pary se poměrně rychle zacyklily, respektive jejich konverzace odumřela (ovšem šlo by jedovatě podotknout, že to se stává i lidem). Dnešní chatovací systémy jsou ale přesvědčivější, čímž vznikají další zajímavé verze Turingova testu. Člověka od robota můžeme zkoušet poznat nejen tak, že bychom s ním konverzovali sami, ale i tak, že budeme sledovat jeho komunikaci s jiným robotem. Zamilují se třeba do sebe? Za účelem studia těchto konverzací existuje už od roku 1997 server Cleverbot.
Igor Labutov, Jason Yosinski a Hod Lipson z britské Cornell University nyní zašli ještě dále. Upozorňují, že člověk mluví většinu času „sám se sebou“, zkoumá pro a proti ve své hlavě. Proč tedy nezkusit, jak bude sám se sebou interagovat i chatbot? Výsledek: Na jednu stranu byla konverzace fiaskem, vše se rychle stočilo k debatě o Bohu, na což testovaný program reagoval tím, že komunikaci ukončil (v debatách o náboženství ovšem zjevně častý konec i u lidí), současně to ale sám „na druhé straně“ nepochopil a snažil se o pokračování sporu (neodpovídá i to mnohým lidem?). Zajímavé bylo, že lidé, kteří konverzaci sledovali, přisuzovali oběma programům různé lidské vlastnosti, a to i když věděli, že jde o software; jen netušili, že program na obou stranách je tentýž.
Na základě podobných modifikací původního Turingova testu lze rozhodně provádět celou řadu zajímavých nebo alespoň zábavných reálných i myšlenkových experimentů.

Geniální Siri
Letošním vítězem Loebnerovy ceny se stal program Chip Vivant, který vytvořil Mohan Embar, softwarový konzultant z Milwaukee (ano, jediný člověk; není se pak co divit, že výsledek projektu nebude dvakrát přesvědčivý). Podle zadání soutěže se vítězem má stát program, který dokáže ošálit maximum porotců; jenže většinou porotci rozliší lidi od softwaru 100% úspěšností. Nesplní-li se hlavní kritérium, je za vítěze prohlášen software, který relativně nejvíc zaujme nějakými speciálními triky.
Letos se jako „aktuální triky“ v soutěži objevily např. chatboty, které předstíraly dospívající dívky. Často v konverzaci uváděly odkazy na facebookové profily. Teenagery se snažil simulovat i program, který záměrně dělal pravopisné chyby.
Je ovšem otázka, nakolik poměrně tristní výsledky Loebnerovy ceny o vývoji umělé inteligence vypovídají něco relevantního. Jak se zdá, nadějné pokusy se z vědeckých laboratoří a nadšeneckých projektů už dávno přenesly do komerční sféry. Programy účastnící se Loebnerovy ceny nezvládnou zdaleka tolik, jako třeba známá Apple Siri (také kolik lidí na Siri asi u Applu pracuje, že...). 
Ve skutečnosti je pravděpodobné, že kolem sebe máme dnes více umělé inteligence, než tušíme; a to nejen konverzační programy a asistenty, ale algoritmy fungující třeba v rámci internetových vyhledávačů nebo při obchodování na finančních trzích. Tyto programy nebyly vytvářeny primárně proto, aby disponovaly inteligencí či dokonce vědomím, ale aby řešily daný úkol. Obecnější inteligence se dostavila jako vedlejší efekt – asi podobně, jako vznikla v rámci biologické evoluce.

Zakousnout se do sebe
Teď se vraťme ke knize Gödel, Escher, Bach. Originál tohoto slavného díla vyšel už v roce 1979 a autor, americký kognitivní vědec (nebo jak ho vzhledem k šíři jeho záběru označit) Douglas R. Hofstadter za ně obdržel i Pulitzerovu cenu. Kniha se tehdy stala oblíbenou i v prostředí tuzemského disentu, časem její sláva dosáhla podoby až jakési bible neredukcionistické vědy nebo rovnou mystiky; autor sám se poněkud divil, když svůj titul vídal řazen mezi „duchovní“ literaturu. 
Hofstadter se umělou inteligencí, počítači a stroji zabývá především proto, že se chce pomocí těchto otázek prokutat k odpovědím na to, co zakládá inteligenci a vědomí lidské. Proto také není ani dnes kniha beznadějně pasé, ačkoli obor IT i třeba genetika (s níž se v textu též pracuje, konec konců jde opět o kódy) se mezitím změnily prakticky k nepoznání.
Jak vyplývá z názvu díla, ústřední roli v Hofstadterově přístupu hraje autoreference – schopnost vypovídat o sobě samém. Bachova hudba, Escherovy obrazy i Gödelova věta jsou příklady tohoto „zacyklení“. Gödelova věta popisuje meze formálních matematických systémů, kde se podivně míchá pravdivost a dokazatelnost určitých výroků. Ve světě počítačové vědy má Gödelova věta řadu analogií, jako jsou např. programy schopné vytisknout samy sebe nebo problém zastavení – existuje algoritmus, který dokáže určit, zda se libovolný jiný program zastaví nebo zacyklí? Sebereference zde spočívá v tom, že programu se jako testovací vzorek předhodí upravený původní kód; mimochodem, jedním z lidí, kdo dokázal neřešitelnost problému zastavení, byl opět náš známý Alan Turing.
Ukazuje se, že veškeré programy, říkejme jim třeba Turingovy stroje, mají své meze. Hofstadter ve své knize ovšem polemizuje s těmi, kdo na základě popsaných úloh dávají lidské mysli nějakou nadřazenost nad algoritmy. Možná nějaké z takto „divných“ problémů dokážeme řešit, ale na své meze narazí dříve či později i lidský mozek. Nemáme k dispozici žádnou univerzální „magickou“ hůlku pro řešení problémů. (Další možné zacyklení: kdyby tomu tak bylo, pak by tento postup šlo nějak formalizovat a naučit ho stroj.)
Hofstadterovo stanovisko je tedy blízko k přesvědčení „lidská mysl je (nějak omezený) stroj, ale my si to (pochopitelně, jsa omezenými stroji, viz výše) plně neuvědomujeme“. Na tomto základě byl pak Hofstadter celkem optimistický i k možnosti vývoje umělé inteligence s vlastním vědomím. Jinak řečeno: dostatečně složitý program do svých modelů nakonec zařadí i existenci sebe sama.

Tvořivost a svět umění
Řada autorových názorů ve zkoušce času obstála, jiné nikoliv. Hofstadter třeba nevěřil v šachové programy schopné porážet lidské hráče; přesněji řečeno, nevěřil ve výlučně šachovou inteligenci. Domníval se, že příslušná schopnost bude až vedlejším výsledkem nějaké obecnější inteligence – což se nepotvrdilo. Šachy jsou jednodušší a především „izolovanější“ od dalších problémů.
Název knihy Gödel, Escher, Bach by nás mohl přimět k zamyšlení i nad dalšími lidskými schopnostmi, třeba tvořit a vnímat hudbu či výtvarné umění. Jak si stojí současné programy zde? Steve Engels a Daniel Eisner z University of Toronto sestavili program, který je podle určitého vzoru schopen skládat hudbu v řadě stylů. A to prý velmi dobře nejen u techna, ale i u klasické hudby. Dokonce i v případě Bacha dokáže software už odvést překvapivě dobrou práci, byť po nějaké době znalec klasické hudby rozpozná rozdíly – imitované melodii prý chybí určité „zastřešení“.  I tak se ale prý jedná o dostatečnou podobnost, aby zájemce mohl mít nekonečné variace svých oblíbených děl už navždy k dispozici v množství, které se neoposlouchá. Zamýšlené využití softwaru je ovšem velmi skromné – k automatickému generování pozadí počítačových her.
Co se týče výtvarného cítění, Xerox nabídl nedávno program Aesthetic Image Search, tedy vyhledávání obrázků dle jejich estetické hodnoty. Nástroj údajně využívá samoučících se mechanismů, přičemž se pokouší na základě analýzy obrazových dat rozpoznat, co činí daný snímek výjimečným a kvalitním. Například, tvrdí Xerox, pohledné snímky pláží často zahrnují jemné hrany vln coby důsledek delší expozice. Algoritmus se proto zaměří právě na takové snímky. A tak dále.
Jak se zdá, řada dnešních automatizovaných systémů pro zdánlivě výlučně lidské domény nám prostě celkem postačuje. Přisuzovat těmto programům vědomí asi nikoho nenapadne, ukazují ale, že lidská kreativita nebo estetický cit nejsou ničím magickým a dají se zřejmě algoritmizovat snadněji, než kdo dříve tušil.

Na vědomí nelze ukázat
A Hofstadterův závěr, který podle mého názoru dnes platí ještě více než v jeho době? Umělou inteligenci dokážeme nějak seskládávat, ale celý proces je tak složitý a empirický, že se v něm sami nevyznáme. Nakonec i ve vývoji softwaru se již uplatňuje snaha proces „outsourcovat“ přírodnímu výběru a nechat finální kód vzniknout např. genetickým programováním.
Představte si kombinaci smartphonu, automatizovaného asistenta, brýlí s rozšířenou realitou a programu pro práci se sociální sítí. Soustava jako celek vám dokáže vyřešit problém a budete mít tendenci ji pokládat za inteligentní, ale kde přesně se zde inteligence skrývá, to nevíte. Ba co víc, taková otázka možná dokonce ani nemá dobrý smysl (asi jako se ptát, kde přesně se skrývá inteligence v lidském mozku).
Umělá inteligence, ať už se tím myslí přesně cokoliv, kolem nás existuje a bude jí dále přibývat. Asi ale nedokážeme říct, v čem přesně spočívá. Nějaký modul bude mít jistě centrálnější povahu než jiný, ale i tento modul se při podrobnějším pohledu rozpadne na řadu objektů (nul, jedniček, umělých neuronů....). Vědomí do programu nevložíme zvnějšku, ale ze zpětněvazebných smyček se zřejmě vynoří nějak samo, opět podobně jako v biologické evoluci.
A tak nakonec vývoj umělé inteligence přes úspěch celého projektu neodpoví na naše otázky po povaze lidského vědomí možná o nic více, než se dozvíme z existence jiného člověka....

Pavel Houser