Debata o umělé inteligenci vyžaduje širokou spolupráci různých oborů a přístupů. Nestačí, aby o ní rozhodovali pouze technologové nebo vývojáři. „Teologie, neurověda, filozofie, právo, informatika – nikdo z nás nevidí celý obraz. Jedině společným rozhovorem se můžeme posunout dál,“ vysvětluje Peter Jedlička, neurovědec, který již 20 let působí v Německu na Goetheho univerzitě ve Frankfurtu. Jaká jsou rizika a příležitosti spojené s rychlým rozvojem umělé inteligence a s chápáním a ochranou lidské důstojnosti? O těchto a dalších otázkách hovořil v sekci „Digitální duše“ v rámci festivalu Bratislavské Hanusovy dny.
° ° °
„Mozek je jako orchestr. Umělá inteligence je jako automatický přehrávač. Dokáže opakovat noty, ale ne tvořit hudbu.“ Tak by se dala shrnout hlavní myšlenka diskuse, která přinesla jedinečný pohled neurověd, filozofie a teologie na oblast umělé inteligence.
Co dělá inteligenci vědomím? A kdy stroj přestává být nástrojem a začíná být aktérem? A co když nás umělá inteligence přesvědčí, že je vědomá – dříve, než skutečně je? I na tyto a mnohé další otázky se hledaly odpovědi v diskusi, která ukázala, že problém umělé inteligence není jen technický, ale také hluboce lidský.
Kdo se to vlastně probudil?
Peter Jedlička přirovnal vznik jazykových modelů, jako je ChatGPT, ke zrodu nového typu bytosti. Po milionech let, během nichž schopnost vést inteligentní řeč patřila výhradně lidem, vstupuje na scénu něco jako „mimozemšťan našeho vlastního původu“. Tyto systémy dokážou odpovídat na otázky, generovat texty nebo dokonce navrhovat vědecké experimenty – a na první pohled se zdají být inteligentní.
Podle Jedličky se však jedná pouze o zdánlivou podobnost. Umělá inteligence podle něj nemá to podstatné: vlastní tělo, smysly, paměť, kontakt se světem ani vědomý záměr. „Nežijí v reálném světě – pouze zpracovávají obrovské množství dat. Nerozumějí významu slov, jen hledají nejpravděpodobnější možné pokračování,“ vysvětlil, jak systémy umělé inteligence fungují.
Odpovědi, které umělá inteligence generuje, tedy nejsou výsledkem promyšlené úvahy nebo rozhodnutí něco vyjádřit. „Inteligence těchto systémů není projevem porozumění světu, ale pouze způsobem napodobování jazyka, který používáme k popisu světa,“ uzavírá.
Jedlička přirovnal modely, jako je GPT-4, k „duchu všech slov na internetu“ – systému, který umí mluvit, ale nezažil nic z toho, co vyslovuje. Ačkoli jsou vycvičeny na miliardách textů, chybí jim to, co dává slovům hloubku: vědomí, zkušenost a zakořenění v realitě. „Mluví jako my, ale nežijí jako my.“
Stroje bez zkušenosti
Jedním ze závažných omezení umělé inteligence je její neschopnost přenést naučené znalosti do nového kontextu – odborníci to označují jako problém generalizace. Stroje se mohou naučit reagovat na konkrétní data, ale selžou, když se úkol mírně změní. „Stačí změnit malý detail na vstupu a model to pochopí úplně špatně,“ upozornil Jedlička.
Neurolog také upozornil, že zatímco stroj potřebuje miliony vstupů, dítě se může naučit pojem „tygr“ po jednom setkání. „Někdy se učíme strašně rychle. Kdyby se v této místnosti právě teď objevil tygr, pamatovali bychom si ho do konce života. A podruhé už ho možná neuvidíme,“ poznamenal.
Umělé neuronové sítě navíc neznají kauzalitu. To podle něj způsobuje zásadní rozdíl v chápání světa: stroje neznají fyzikální zákony na základě zkušeností, ale pouze jako statistické vzorce. „Nemají model světa, ve kterém sklenice spadne, když ji pustíme,“ poznamenal. A i když umělá inteligence dokáže vytvořit gramaticky správný a zdánlivě přesvědčivý text, často se jedná o tzv. halucinaci – větu, která sice zní smysluplně, ale nemá nic společného s realitou.
To je jeden z důvodů, proč neurovědci vyzývají k tomu, aby byli mladí lidé vedeni ke kritickému myšlení. Upozornil, že umělá inteligence není jen technický nástroj, ale také kulturní fenomén, který ovlivňuje způsob, jakým přemýšlíme o realitě. „Máme tendenci považovat za inteligentní cokoli, co formuluje stylisticky pěkný odstavec. Ale jazyk nerovná se porozumění,“ uzavřel.
Vnitřní svět? Výpočetní modely ho nemají
Zásadní rozdíl mezi lidmi a umělou inteligencí, jak neurovědec dále zdůraznil, není jen v architektuře, ale také v autonomii. Umělá inteligence je tedy nejen bez těla, ale také bez vnitřku. Chybí jí vědomý záměr a schopnost jednat podle vlastních cílů. Člověk se rozhoduje zevnitř, stroj pouze podle vnějších vstupů. „Umělá inteligence takovou autonomii nemá – je nástrojem, nikoli aktérem,“ dodal.
Tento rozdíl se projevuje ve struktuře samotných modelů. „GPT-4 má 96 vrstev. Nikdo přesně neví, co se ve které vrstvě děje. Jejich výsledky jsou často nepředvídatelné a my je musíme analyzovat jako mozek – vrstvu po vrstvě,“ vysvětlil.
Co však podle něj odlišuje lidi od umělé inteligence, není jen technická složitost, ale hlavně to, že tyto modely nemají vnitřní svět – neprožívají, neuvažují, nemají emoce. Chybí jim také důležité procesy, jako jsou oscilace – rytmické vlny mozkové aktivity, které hrají roli při vnímání, rozhodování nebo udržování pozornosti a vědomí.
„Tyto sítě jsou čistě technické systémy. Naproti tomu člověk má tělo, které cítí, reaguje a zprostředkovává zkušenosti. A díky tomu může nejen vnímat realitu, ale také utvářet historii – má paměť, kontinuitu, osobní a kulturní příběh. To vše umělým modelům chybí,“ vysvětlil Jedlička.
Může mít umělá inteligence vědomí?
Jedlička připomněl, že otázka vědomí není vyřešena ani v samotné neurovědě. Zatímco někteří vědci tvrdí, že vědomí má i tak jednoduchý organismus, jako je mník, jiní se domnívají, že u většiny živočichů přítomno není.
Jedlička se domnívá, že vědomí nevzniká jen díky složitosti výpočtů, ale také díky prožité zkušenosti. Umělá inteligence podle něj tyto předpoklady nemá – chybí jí tělo, časová kontinuita, paměť a sebereflexe.
Zatímco někteří vědci se domnívají, že při dostatečné složitosti systému se vědomí „vynoří“, Jedlička tento názor zpochybňuje: „To, že něco generuje správné odpovědi, ještě neznamená, že rozumí tomu, co říká.“
Rozdíl mezi napodobováním a chápáním vysvětlil na příkladu filozofického experimentu s čínským pokojem: člověk, který neumí čínsky, může pomocí knih a pravidel přiřazovat znaky tak, že při pohledu zvenčí vypadá, jako by jazyku rozuměl. Ve skutečnosti však pouze mechanicky manipuluje se symboly. Podle Jedličky funguje umělá inteligence stejně: syntakticky zpracovává znaky, ale sémanticky jim nerozumí.
Podle něj se jedná o stejný princip, který funguje v případě současných jazykových modelů. Umělá inteligence dokáže vytvořit gramaticky správnou větu, ale bez pochopení jejího významu. „Je to podobné jako rozdíl mezi obsahem zákona a inkoustem na papíře. Umělá inteligence má pouze inkoust.“ Její výstupy se sice mohou podobat lidskému jazyku, ale chybí jí to nejpodstatnější – porozumění.
Umělá inteligence jako dobrý sluha, nikoliv pán
Podle Jedličky není umělá inteligence ani jednoznačnou hrozbou, ani zázračným řešením. Nese v sobě obrovský potenciál, ale také reálná rizika. Pokud se na ni začneme nekriticky spoléhat, oslabí naši schopnost myslet. Pokud si však zachováme kontrolu, může být umělá inteligence neocenitelným nástrojem – například i ve vědě.
Sám přiznal, že používá jazykové modely v simulacích neuronových sítí. „Můžeme tak rychleji testovat hypotézy, upravovat parametry. Umělá inteligence může pomoci výzkumu, ale musíme se z ní také učit,“ poznamenal.
Zároveň zdůraznil, že debata o umělé inteligenci vyžaduje širokou spolupráci různých oborů a přístupů. Nestačí, aby o ní rozhodovali pouze technologové nebo vývojáři. „Teologie, neurověda, filozofie, právo, informatika – nikdo z nás nevidí celý obraz. Pouze společným jednáním se můžeme posunout vpřed,“ dodal. Takový mezioborový dialog je podle něj nezbytný, pokud chceme pochopit nejen technické možnosti, ale také etické a antropologické důsledky, které umělá inteligence přináší.
Hlas víry ve věku umělé inteligence
Podle Jedličky by do debaty o UI měla vstoupit také církev – nejen jako pozorovatel, ale jako aktivní hlas, který klade hluboké otázky o člověku, jeho vědomí a důstojnosti. Pokud by jednoho dne měla vzniknout encyklika o umělé inteligenci, měla by podle něj spojovat vědecký vhled se smyslem pro to, co nás činí lidmi.
Jak připomněl, papež Lev XVI, který vystudoval matematiku, dokáže propojit svět víry, vědy a filozofie. Právě takového hlasu je dnes zapotřebí – ne proto, abychom umělou inteligenci zavrhli, ale proto, abychom ji pomohli lidem pochopit v širším kontextu.
„Digitální duše je jen stínem té skutečné,“ řekl Jedlička. A právě hledání té skutečné – žité, zakořeněné ve vztazích, v těle a ve svobodě – je úkol, který za nás žádný stroj nemůže převzít.
Publikováno na portále Nové mesto, převzato a přeloženo ze slovenštiny se svolením.
° ° °
Konzervativní noviny nabízí všechny články zdarma. Náš provoz se však neobejde bez nezbytné finanční podpory. Pokud se Vám Konzervativní noviny líbí, budeme vděčni za Vaši pomoc. Číslo účtu: 2701544173 / 2010 Děkujeme
