Godel Escher Bach
Jsou knihy, ke kterým se rádi vracíme. Tato mimořádná kniha je knihou, kterou můžete zkoumat celý život a stále budete něco objevovat. Přirovnání s beletristickou Odysseou Jamese Joyce se zdá být v obecném rovině přesné.

Hofstadterova je kniha je vystavěna na trojúhelníkovém půdorysu, jehož strany tvoří Bachovy fugy, Escherovy obrazy a dílo matematika Kurta Gödela.
Tato zdánlivě nesouvisející témata mají totiž jednu společnou skrytou, o to však podstatnější vlastnost: jejich struktura je postavena na odkazu na sebe sama - takzvané autoreferenci.

Kniha je opravdu velmi rozsáhlá a hluboko se nořící do dosti obtížných partií matematiky a metamatematiky, s přesahy do informatiky, fyziky, genetiky, hudby, výtvarného umění a řady dalších oborů. Navíc je plná slovních i grafických hříček a vzájemných vazeb mezi zcela nečekanými místy textu.
To nakonec odpovídá i jejímu hlavnímu sdělení, totiž že vědomí a inteligence vznikají mnohočetnými interakcemi v mimořádně složité síti - mnohonásobně provázanými zpětnovazebními cykly jednoduchých složek a jejich spletitých a mnohovrstevných hierarchií.
Dosaďte za jednoduché složky jednotlivá slova, za jejich hierarchie věty, odstavce a podkapitoly, přičtěte vzájemné mnohočetné vazby napříč všemi těmito složkami - a máte před sebou fraktálovou kopii autorovy hlavní teze, vytesanou ve druhém plánu do materiálu, na kterém ji předvádí...

Douglas R. Hofstadter / Gödel, Escher, Bach / Argo
Existenciální gordická balada. Metaforická fuga o mysli a strojích v duchu Lewise Carrolla

Ukázka z knihy:

DESET OTÁZEK A SPEKULACÍ

Kapitolu o Umělé Inteligenci (UI) bych rád zakončil deseti „otázkami a spekulacemi". Nejsem tak troufalý, abych to nazval „otázky a odpovědi" - jsou to jen mé osobní názory, a až se toho dozvín1e více a Ul projde dalším vývojem, klidně se mohou změnit. (V následujících pasážích termínem „program Ul" míním program, který je před dnešními programy daleko vpředu; znamená to program „určitě inteligentní". Také slova „program" a „počítač" mají pravděpodobně příliš mechanistické konotace, nicméně se jich přidržíme.)

Otázka: Napíše někdy počítačový program krásnou hudbu?
Spekulace: Ano, ale nijak brzy to nebude. Hudba je jazykem emocí a dokud nebudou mít programy stejně složité emoce jako my, není možné, aby napsaly cokoli krásného. Mohou zvládnout „padělky" - povrchní imitace syntaxe předchozí hudby - avšak navzdory povrchním domněnkám se v hudebním vyjádření skrývá mnohem více, než je možné zachytit syntaktickými pravidly. Počítačové programy pro skládání hudby ještě dlouho žádný nový druh krásy nevyprodu-kují. Rád bych tuto myšlenku rozvedl trochu dále. Myslet si - a něco takového jsem už slyšel- že bychom již brzy mohli mít předprogramovaný, masově pro-dukovaný a zásilkově prodávaný „music box" za pár babek, který by ze svých sterilních obvodů chrlil hudbu, jakou by psali Chopin či Bach, kdyby žili déle, to je hodně groteskní a ostudně špatný odhad hloubky lidského ducha. ,,Program", který by dovedl tvořit hudbu jako oni, by musel sám putovat světem, vybojovávat si vlastními silami cestu bludištěm života a procítit každou jeho chvilku. Musel by porozumět radosti a osamělosti mrazivého nočního větru, touze po milované ruce, nepřístupnosti vzdáleného města, hoři ze smrti blízkého a schopnosti se z ní vzpamatovat. Musel by poznat na vlastní kůži rezignaci a únavu ze světa, žal a zoufalství, odhodlání a vítězství, zbožnost a posvátnou hrůzu. Do toho by musel namíchat takové protiklady jako naději a strach, sklíčenost a rozjaření, klid a napětí. Nedílnou součástí směsi by musel být smysl pro eleganci, humor a rytmus i smysl pro neočekávané - a samozřejmě vytříbené povědomí o magii tvůrčího procesu. V tom a pouze v tom spočívají zdroje významu v hudbě.

Otázka: Budou se do stroje explicitně programovat emoce?
Spekulace: Ne, to je absurdní představa. Žádná přímá simulace emocí - například program PARRY - se nemůže přiblížit složitosti lidských emocí, které vznikají nepřímo, v důsledku organizace našich myslí. Programy nebo stroje si budou osvojovat emoce stejným způsobem: jako vedlejší produkty své struktury, způ-sobu, jímž jsou organizovány - nikoli přímým programováním. Nikdo tedy například nebude psát subrutinu „zamilovat se", stejně jako nenapíše subrutinu „chybovat". ,,Zamilovat se" je jeden z popisů, které přikládáme komplexnímu procesu komplexního systému; uvnitř tohoto systému však nemusí být žádný specifický modul, který by to měl výlučně na starosti!

Otázka: Bude myslící počítač schopen rychle sčítat?
Spekulace: Zřejmě nikoli. I my sami jsme složeni z hardwaru, který umí skvěle počítat, to ale neznamená, že na úrovni symbolů, tam, kde spočívá „já", nějaký subsystém ví, jak takové skvělé kalkulace provádět. Řeknu to takto: neexistuje žádný způsob, jak bychom mohli do svých neuronů vložit čísla, abychom si sečetli příjmy pro daňové přiznání. Naštěstí pro nás, naše úroveň symbolů (tedy ,,my") nemůže získat přístup k neuronům, které mají na starosti myšlení -jinak by se nám samým sčítáním zavařil mozek. Můžeme si znovu parafrázovat Descarta: ,,Myslím, tedy nemám přístup k úrovni sum."

Proč by to nemělo být u inteligentního programu stejné? K obvodům, v nichž se děje myšlení, nesmí být umožněn přístup - jinak se nadměrným sčítáním zavaří CPU. Ale úplně vážně, stroj, který projde Turingovým testem, bude možná počítat stejně pomalu jako vy nebo já, a to z podobných příčin. Bude reprezentovat číslo 2 nejen dvěma bity „ 1-0", ale komplexním pojmem, tak jako to děláme my; ten bude naplněn asociacemi jako například ,,(pouhá) dvojka" ,,pár" či ,,dvojník", spoustou mentálních představ,jako třeba tečkami na dominové kostce, tvarem číslice 2, pojmy střídání, sudosti, lichosti a tak dále ...
S celou touto zátěží bude zřejmě inteligentní program počítat asi jako lenochod. Jistě, mohli bychom k němu přidat nebo do něj zabudovat takříkajíc „kapesní kalkulačku". Pak může odpovídat skutečně velmi rychle, jeho výkon však bude stejný jako výkon člověka s kalkulačkou. Stroj by pak měl dvě navzájem oddělené části: spolehlivou, ale bezduchou, a inteligentní, ale omylnou, a na to, že složený systém bude spolehlivý, nemůžeme spoléhat o nic více než na kombinaci člověka a stroje. Pokud je toto správná odpověď na položenou otázku, pak uděláme lépe, když si ponecháme kalkulačku - inteligenci do ní ale vkládat nebudeme!

Otázka: Budou existovat šachové programy, které dokážou porazit každého?
Spekulace: Nebudou. Mohou sice vzniknout programy, které budou umět porazit v šachu každého, nebudou to však výhradně šachové programy. Budou to programy s obecnou inteligencí a ty budou zrovna tak temperamentní jako lidé. „Nechcete si zahrát šachy?" ,,Ne, šachy už mě nudí. Popovídejme si o poezii." Tak by mohl vypadat náš rozhovor s programem, který by dokázal porazit každého.
Skutečná inteligence totiž nutně závisí na schopnosti mít celkový přehled -to znamená na programovatelné schopnosti, dá-li se to tak říct, ,,vystoupit ze systému" - aspoň do té míry, do jaké tuto schopnost máme my. Jakmile se tato schopnost objeví, už nebude možné program udržet v mezích; překročí určitý klíčový bod a my se budeme muset postavit čelem k tomu, co jsme vyvolali.

Otázka: Budou v paměti zvláštní místa pro ukládání parametrů ovládajících chování programu, na která kdybychom sáhli a změnili je, mohli bychom si program nastavit tak, aby byl chytřejší, hloupější, kreativnější nebo měl zájem o hokej? Zkrátka, budeme moci náš program „naladit" seřízením na relativně nízké úrovni?
Spekulace: Ne. Program bude zcela netečný vůči změnám jakýchkoli konkrétních prvků ve své paměti, stejně jako i my zůstáváme téměř přesně stejní, i když každý den zaniknou tisíce našich neuronů! Pokud bychom však těchto prvků pozmě-nili mnoho, poškodíme ho, stejně jako se poškodí lidský mozek při nepovedené neurochirurgické operaci. V paměti programu nebude žádné čarovné místo, kde by například sídlilo jeho ,,IQ". Opět to bude vlastnost, která vznikne až v dů-sledku chování nižší úrovně a na žádném konkrétním místě sídlit nebude. Totéž platí pro takové věci jako „počet položek, které dokáže udržet v krátkodobé paměti", ,,do jaké míry má v oblibě fyziku" atd. atd.

Otázka: Budeme moci naladit program Ul tak, aby jednal jako já nebo vy - popřípadě jako někdo mezi námi oběma?
Spekulace: Ne. Inteligentní program se nebude chovat jako chameleon o nic více než lidé. Bude se opírat o neměnnost svých vzpomínek a přebíhat mezi různými osobnostmi umět nebude. Představa změny vnitřních parametrů a „naladění nové osobnosti" prozrazuje směšné podcenění toho, jak je osobnost složitá.

Otázka: Bude existovat něco jako „srdce" programu Ul, nebo se bude program skládat jen z „bezduchých smyček a posloupností triviálních operací" (slovy Marvina Minského)?
Spekulace: Kdybychom programu viděli „až na dno", tak jako na mělkém rybníku, jistě bychom zahlédli jen „bezduché smyčky a posloupnosti triviálních operací" -a žádné „srdce" bychom určitě nespatřili. V této souvislosti se objevují dva ex-trémní názory na Ul: jeden říká, že lidská mysl je, z fundamentálních i tajemných příčin, nenaprogramovatelná. Podle druhého stačí pouze sestavit vhodné „heu-ristické nástroje - vícenásobné optimalizátory, postupy pro rozpoznávání vzorů, plánovací algebry, rekurzivní administrativní procedury a podobně" 7 - a inteli-gence bude na světě. Můj názor je někde uprostřed, protože se domnívám, že „rybník" jakéhokoli programu Ul je tak hluboký a kalný, že na jeho dno prostě nedohlédneme. Budeme-li se dívat shora, zůstanou pro nás smyčky neviditelné, stejně jako jsou po dnešní programátory neviditelné elektrony, které přenášejí proud. Až vytvoříme program, který projde Turingovým testem, zahlédneme ,,srdce", i když budeme vědět, že tam žádné není.

Otázka: Budou někdy Ul programy „superinteligentní?"
Spekulace: To nevím. Není jasné, zda budeme schopni superinteligenci porozumět a nějak s ní komunikovat, ani zda takový pojem má vůbec nějaký smysl. Naše vlastní inteligence je například svázána s rychlostí našeho myšlení. Kdyby byly naše reflexy desetkrát rychlejší či naopak pomalejší, mohly se v nás vyvinout naprosto jiné soubory pojmů k popisování světa. Bytost s radikálně odlišným pohledem na svět s námi možná prostě nebude mít mnoho styčných bodů. Často jsem si představoval, co by se dělo, kdyby existovaly například hudební skladby, které by byly proti Bachovi na takové úrovni, na jaké je Bach proti lidovým písničkám- něco jako „Bach na druhou". Měl bych šanci jim porozumět? Možná už taková hudba kolem mě existuje a já ji jen neumím rozpoznat, stejně jako psi nerozpoznávají lidský jazyk. Idea superinteligence je velmi podivná. Každopádně ji nepokládám za cíl výzkumu Ul, ačkoli kdybychom dosáhli úrovně lidské inteligence, nepochybně se příštím cílem stane superinteligence - nejen pro nás, ale i pro samotné programy Ul, které budou neméně zvědavé, jak to s Ul a superinteligencí dopadne.Je totiž docela pravděpodobné a pochopitelné, že programy Ul se budou o vývoj Ul zajímat zcela mimořádně.

Otázka: Z toho, co říkáte, se zdá, že programy Ul budou nakonec stejně inteligentní jako lidé. Budou mezi nimi a lidmi nějaké rozdíly?
Spekulace: Rozdíly mezi programy Ul a lidmi budou větší než rozdíly mezi jednotlivými lidmi.Je skoro nemožné představit si, že by program Ul hluboce neovlivnilo „tělo", v němž bude sídlit. Pokud to tedy nebude úžasně věrná replika lidského těla - a proč by jí vlastně měla být? - bude mít nesmírně odlišné pohledy na to, co je důležité, co je zajímavé atd. Wittgenstein kdysi vtipně poznamenal: „Kdyby lev uměl mluvit, nerozuměli bychom mu."
Tento citát ve mně vyvolává vzpomínka na Rousseauův obraz mírumilovného lva a spící cikánky na poušti zalité měsíčním světlem. Jak to ale mohl Wittgenstein vědět? Podle mého odhadu se nám bude každý program Ul, pokud bude pro nás srozumitelný, jevit jako značně cizí. To nám bude velmi ztěžovat zjišťování, zda máme co do činění s programem Ul, nebo jenom s „divným" programem.

Otázka: Až vytvoříme inteligentní program, porozumíme tomu, co je inteligence, vědomí, svobodná vůle a „já"?
Spekulace: Svým způsobem - záležet bude na tom, co myslíme slovem „porozumět". Na instinktivní úrovni těmto věcem pravděpodobně každý z nás porozumí celkem dobře. Je to jako poslech hudby. Skutečně porozumíme Bachovi tím, že ho racionálně rozebereme? Nebo mu budeme rozumět tehdy, když z jeho hudby budeme cítit potěšení v každém nervu svého těla? Rozumíme tomu, že rychlost světla je v každé inerciální vztažné soustavě konstantní? Dovedeme si to spočítat, intuici relativity však nemá na světě zřejmě nikdo. A pravděpodobně nikdo také intuitivně nepochopí tajemství inteligence a vědomí. Všichni ale mohou rozumět lidem, což je pravděpodobně asi tak nejdále, kam se můžeme dostat.