Proslov profesora Tomáše Halíka k tématu hodnot v digitální době
Přeloženo z anglického originálu proslovu.
V srdci staré Prahy bývalo židovské ghetto. Zde v šestnáctém století žil slavný talmudský učenec Judah Loew ben Bezalel, podle legend tvůrce golema, umělého člověka. Golem se však objevuje v legendách ještě mnohem starších – podle jedné z nich zhotovil prvního golema jeden z biblických proroků; chtěl tím oslavit tvůrčí sílu Boží. Golem měl na čele nápis JHWH Elohim Emeth – Bůh je pravda. Avšak podle jedné z legend si golem seškrábal písmeno alef a nápis změnil smysl: JHWH Elohim meth – Bůh je mrtev. Jde snad o první verzi této slavné věty, dávno před Nietzschem. Golem se následně stal nekontrolovatelnou a ničivou silou.
V komentáři k této legendě se vypráví příběh o staviteli ze Sevilly, který učil svému umění své dva žáky. Když žáci ovládli stavitelské umění, nahradili svého mistra, učinili ho zbytečným. Smysl příběhu je následující: člověk, který dokáže stvořit život, umělého člověka, umělou inteligenci, se sám stává Bohem-Stvořitelem; činí Boha, svého tvůrce, zbytečným, nahrazuje ho a vyřazuje ze hry. Bůh je mrtev.
Vývoj ale pokračuje – oživlý stroj, umělý život, umělá inteligence dokáže nahradit člověka, svého tvůrce, činí ho zbytečným, vyřazuje ho ze hry. Už Nietzsche věděl, že po smrti Boha přijde konec člověka. Přichází nadčlověk. Bude digitální technologie oním nadčlověkem, oním golemem, který se nakonec vymkne lidské kontrole?
Podobný motiv se objevuje v díle Karla Čapka, jednoho z otců sci-fi literatury, ve hře v RUR (Rossum‘s Universal Robots; české slovo „robot“ se díky této hře stalo mezinárodním pojmem). Roboti, umělí lidé, se vzbouří proti lidstvu. Závěr díla je ale optimistický: u robotů se projeví lidský cit, empatie, láska. Stroj se stává člověkem.
Dnes často slyšíme větu: Stroje se začínají podobat lidem – a lidé se začínají podobat strojům. Jsme fascinováni možnostmi, které člověku nabízí umělá inteligence, zároveň však rostou obavy z možností jejího zneužití. Unikne digitální technologie, tento postmoderní golem, tento nadčlověk, lidské kontrole? Umělá inteligence je dnes vrcholným produktem technologie, lidské inteligence a tvořivosti. Umožňuje nám rychlý a snadný přístup k tomu, co leží vysoko na hodnotovém žebříčku naší západní civilizace – k informacím. Což nás přivádí k otázce hodnot.
V současnosti dochází k hluboké transformaci v našem chápání reality, k změně paradigmat. Od materialistického chápání, které redukovalo skutečnost na její fyzikální komponenty, přecházíme k perspektivě, v jejímž centru stojí informace. Sbližování věd jako je kvantová fyzika a neurověda vedlo k holistickému přístupu, který překonává limity materialismu. Kvantová mechanika zavedla myšlenku, že základní složkou reality je informace. Není jen vedlejším produktem hmoty, nýbrž jejím základním komponentem, vnitřním aspektem struktury vesmíru. Informace je nejcennějším artiklem na světovém trhu.
Umělá inteligence dokáže sbírat a třídit informace způsobem dalece přesahujícím kapacitu lidského mozku. Je pochopitelné, že budeme s radostí přenechávat stále více svých aktivit kompetenci tohoto našeho stále výkonnějšího pomocníka. Objeví se ve vztahu mezi člověkem a digitální technologií něco z oné dialektiky pána a otroka, kterou popsali Hegel a Marx? Považujeme-li výkon a efektivitu za rozhodující hybnou sílu dějin, připravujeme se již nyní na nadvládu technologie nad člověkem a uznáváme její legitimitu.
Rozvoj digitálních technologií je nejen výzvou k zamyšlení nad budoucími přínosy a nebezpečími tohoto vývoje, ale také výzvou k novému promýšlení filozofické otázky, kdo je člověk a co je oním proprium humanum, základním pilířem humanity a lidské identity. Co je to, čeho stroj (technologie) není schopen, co od něj nemůžeme očekávat a co na něj nemůžeme delegovat; co je to, čeho se nesmíme vzdát? Možná jsou to tyto hodnoty, které ve své fascinaci mocí technologie přehlížíme a podceňujeme.
To, co bývá na digitální technologii velice ceněno, je neuvěřitelná rychlost, s kterou reaguje na naše otázky a přání. Ale to je také tím, co mi na umělé inteligenci připadá nejvíce podezřelé. Umělá inteligence není schopna toho, co považuji za nejcennější lidskou vlastnost – kontemplativního přístupu ke skutečnosti. Umělá inteligence se nedokáže zastavit, meditovat, ponořit se do hloubky a ticha, kde dochází k přechodu od kvantity ke kvalitě, kde se rodí něco radikálně nového.
Technologie nedokáže překročit práh mezi výrobou a stvořením, mezi problémem jako výzvou k řešení a tajemstvím jako výzvou k adoraci. Technologie nám dokáže nabídnout zábavu, ale nedokáže vytvořit radost, může nám poskytnout znalosti, ale nikoliv moudrost. Může nám obstarat mnoho podkladů k racionálnímu rozhodování, ale nemůže nahradit morální svědomí.
Možná to drama vztahu mezi člověkem a strojem spočívá v onom jednom písmenu v nápisu na golemově čele, v onom alef. Toto jedno písmeno odlišuje dvě základní lidské orientace, dva základní postoje ke skutečnosti, vyjádřené dvěma stručnými větami: Bůh je pravda a Bůh je mrtev. Toto jediné písmenko tvoří rozdíl mezi slovy pravda a smrt. Nietzsche ohlásil dobu po smrti Boha. Dnes činíme další krok týmž směrem: mluvíme o smrti pravdy, o době post-pravdivé, post-faktické.
V době neustálé změny, v čase válek, revolucí a prolínání kultur byla otřesena důvěra ve velká slova, označující klíčové hodnoty naší civilizace, včetně důvěry ve slovo pravda. Před tuto zkušenost se nemůžeme vrátit. Nelze se navrátit do světa starých, neotřesitelných jistot. Žádná ideologie, politická ani náboženská, žádná instituce, žádný stát ani církev si nemůže nárokovat monopol na vlastnictví pravdy. Pravda, stejně jako ostatní po staletí uznávané hodnoty naší civilizace, nežije v neměnné, nehybné platonské říši idejí. Pravda, stejně jako ostatní klíčové hodnoty naší civilizace, má charakter vztahu.
Relacionalismus a perspektivismus nelze zaměňovat za morální relativismus a noetický nihilismus. K tomu mají stejně daleko jako ke starému metafyzickému realismu. Relacionalista nepopírá – na rozdíl od relativisty – existenci a důležitost pravdy, pochybuje však o schopnosti kohokoliv, včetně sebe, pravdu plně obsáhnout a pochopit. Jeho cesta hledání pravdy je sebekritická a sebe-transcendující, vyžadující stálou proměnu sebe samého.
Jsem přesvědčen, že to, co dělá lidskou bytost člověkem, co je podstatou její identity, je právě schopnost sebetranscendence, proměny, kterou Nový zákon vyjadřuje slovem metanoia (překládá se jako změna smýšlení, pokání, konverze). Metanoia může mít mnoho podob. Pro roboty Karla Čapka tou transcendencí byla láska jednoho k druhému – to byla proměna oživlého stroje v lidskou bytost. Jsem přesvědčený, že láska je onou hodnotou, kterou se člověk podobá svému stvořiteli, Bohu, ale kterou se ani golem, ani umělá inteligence nemůže připodobnit svému tvůrci, člověku.
Pravdu nelze vlastnit, ale není možné rezignovat na její hledání. Smysl – význam jevů a propozic – se odhaluje v souvislostech. Na cestě hledání pravdy a smyslu objevujeme stále nové a širší souvislosti a překračujeme stále nové horizonty. Nikdy nesmíme podlehnout iluzi, že jsme již dosáhli konečného cíle.
Bod Omega, z něhož můžeme vidět celek, celkové souvislosti, je eschatologickým cílem. Na cestě k němu potřebujeme eschatologickou trpělivost. Křesťanská tradice zná tři druhy této trpělivosti, této stálé otevřenosti vůči tajemství celku – nazývá je víra, láska a naděje. Tato cesta byla dobrá pro naše předky a je dost dobrá i pro mne.
Tomáš Halík
Profesor Filozofické fakulty UK / prezident České křesťanské akademie
Proslov zazněl na Aspen Annual Conference 2023.