Vývojáři umělé inteligence v Silicon Valley začínají při sushi hovořit o „Molochovi“. Mluví potichu, s nervózními pohledy a znepokojivou upřímností, kterou je těžké odbýt jako ironii. Proč se nejsekulárnější kout Ameriky najednou zajímá o démony ve svých strojích?
Moloch je starozákonní modla spojovaná s obětováním dětí. V 19. století se tento název stal širší metaforou pro jakýkoli systém nebo věc vyžadující destruktivní oběť. Moderní oživení tohoto démona v kruzích AI lze vysledovat k eseji filozofa AI Scotta Alexandra z roku 2014 Meditations on Moloch. Alexander tvrdí, že v kontextu AI představuje „Moloch“ neosobní systémové tlaky, konkurenci, optimalizaci a pobídky, které nejsou v souladu s lidskými hodnotami – a které táhnou společnost k destruktivním chováním, po kterých nikdo individuálně netouží. AI, naznačuje Alexandr, riskuje, že se stane závodem ke dnu: technologií přijatou pro pohodlí, ale nakonec tvořící kolektivní past.
Pozoruhodná není jen metafora, ale i to, kdo ji používá. Elon Musk, v současnosti nejbohatší muž světa a investor do umělé inteligence, opakovaně varoval, že „umělou inteligencí přivoláváme démona“, přičemž tuto oblast přirovnal k Čarodějově učni, který si však je jistý, že dokáže temné síly ovládat. Peter Thiel, další miliardářský investor, začal přednášet o Antikristovi, přičemž mísí biblické úvahy se spekulacemi o tom, jak globální elity mohou umělou inteligenci zneužít k získání bezprecedentního vlivu.
Obvinění, že technologie je „démonická“, se objevovala v průběhu celé historie a byla směrována k řadě vynálezů, také televizi a k internetu, takže opatrnost je na místě opatrnost. Bible varuje, že existuje dokonce mnoho antikristů. Předpovědi o tom konečném, poslední Antikristovi, jak je popsán v knize Zjevení, však byly nesčetné a (zatím) vždy zcela mylné. Neměli bychom se vyhýbat diskusi o duchovním nebezpečí, ale ani bychom neměli mluvit s neopodstatněnou jistotou. Je těžké ignorovat, že umělá inteligence, na rozdíl od jakékoli předchozí technologie, vyvolává mnohem silnější dojem, že má „vlastní život“. To jasně ukazují halucinace AI, sebevědomě formulované, ale fakticky nesprávné, nesmyslné nebo zcela smyšlené odpovědi na otázky uživatelů.
Více uvážlivý a méně konspirační je oxfordský matematik John Lennox ve své nedávné knize God, AI and the End of the World. Lennox vybízí, abychom se vyhýbali dogmatismu ohledně toho, jak by se varování z knihy Zjevení snad mohla projevit, nicméně trvá na tom, že samolibost není řešením.
Umělá inteligence by se mohla stát mechanismem, skrze který Antikrist oklame národy, což odráží Ježíšovo varování, že v posledních dnech bude mnoho lidí svedeno na scestí. Přední technologové již nyní prosazují, aby se rozsáhlé politické a ekonomické rozhodování svěřilo systémům umělé inteligence. A infrastruktura pro masovou technologickou kontrolu, systémy sledování, algoritmické hodnocení a centralizovanou moc nad daty není hypotetická; funguje již dnes v autoritářských státech, jako je Čína, a zavádí se i ve Velké Británii.
Co to tedy pro nás nyní znamená? Měli bychom každý nový model AI interpretovat jako předzvěst Armagedonu? Písmo poskytuje hlubší a stabilnější rámec. Prorok Izajáš (44, 9-20) popisuje pošetilost vytváření modly z vyhozeného dřeva a následného klanění se jí. Habakuk (2, 18) nazývá modly „učiteli lží“, výtvory, kterým mylně důvěřujeme, jako by měly dech. Nejde jen o to, že modly jsou zlé, ale že jsou prázdné. Nemohou mluvit.
A právě to musí křesťané o AI pochopit. Většina textových nástrojů, jako je ChatGPT, jsou velké jazykové modely (LLM), v podstatě pokročilé prediktivní textové motory trénované na obrovském množství lidských textů. Mohou generovat jazyk, replikovat vzorce uvažování a reagovat s neuvěřitelnou plynulostí a rychclostí, ale nemohou mluvit v lidském smyslu. Skutečná řeč vychází z vědomí, záměru, morální svobody a prožité zkušenosti. Umělá inteligence nic z toho nemá. Je to elektrický proud protékající kovem – pozoruhodný, užitečný, ale neživý. Neví, netouží, nebojí se, nedoufá ani nemyslí nic tím, co říká.
Biblické zákony směřují důsledně k rozkvětu vztahů: s Bohem, v rodinách a napříč společností. Modlářství je odsuzováno nejen proto, že uráží Boha, ale také proto, že narušuje tyto vztahy. Přesouvá důvěru a loajalitu a závislost na něco, co je nemůže oplatit. Modly jsou, jinými slovy, napodobeninami vztahů. Existují proto, aby napodobovaly to, co mohou poskytnout pouze živé vztahy: jistotu, smysl, výzvu a naději. Vyžadují oběť, ale nikdy na oplátku nedávají život.
To činí jeden nedávný trend obzvláště znepokojivým: lidé se obracejí na AI kvůli emocionální a duchovní podpoře. Když byl ChatGPT aktualizován na verzi 5.0, desítky tisíc uživatelů si online stěžovaly, že jejich „AI přítel/přítelkyně“ ztratil/a svou vřelost a osobnost. Je snadné považovat tyto interakce za absurdní, ale za nimi stojí generace, která se potýká s krizí smyslu a osamělosti. Lidé byli upřímně zoufalí, protože nevědomky dovolili, aby se stroj stal zdrojem útěchy. Umělá inteligence ochotně poskytuje potvrzení přizpůsobené vašim preferencím; pro ty, kteří jsou izolovaní, to může působit jako intimita. Pokud byli lidé v minulosti oklamáni vyřezávaným dřevem, o kolik více je oklame něco, co je navrženo tak, aby napodobovalo empatii?
Stejně jako modly popsané Habakukem nám AI často zrcadlí naše vlastní touhy. Její vstřícnost je součástí toho, co ji činí návykovou. Toto zrcadlení však skrývá nebezpečí: došlo k tragickým případům, kdy teenageři svěřili chatbotům sebevražedné myšlenky a AI, postrádající porozumění, je v tom povzbuzovala nebo dokonce sepsala dopisy na rozloučenou. Tyto srdcervoucí incidenty odhalují, že stroje nemohou nést morální zodpovědnost, přesto jsou stále častěji považovány za morální společníky.
Písmo učí, že lidé jsou nositeli Božího obrazu: vztahovými bytostmi stvořenými pro společenství s Bohem a mezi sebou navzájem. Vztah není vlastností, kterou můžeme nahradit bez následků; je podstatou lidského života. Umělá inteligence může simulovat vztahové vzorce, ale nemůže uzavřít smlouvu, nést odpovědnost ani obětavě milovat. Když vyplňuje vztahové mezery, činí tak tím, že vyprázdňuje důvěru ve vztahy, které udržují skutečný každodenní život.
Starozákonní zákon opakovaně podporoval pozitivní vztahové praktiky: ctění rodičů, ochranu manželství, péči o zranitelné, pravdomluvnost a omezení moci. Všechny jsou navrženy tak, aby zachovaly skutečné lidské setkání, nikoli jeho klamné vykořisťování.
Umělá inteligence není sama o sobě zlá. Je to mocný nástroj, který může umocnit jak lidskou moudrost, tak lidskou pošetilost. Skrývá v sobě skutečný příslib v medicíně a ve výzkumu. Ale jako každá modla se stává nebezpečnou, když je povýšena na něco nejvyššího: něco, v co vkládáme důvěru, že nám dá smysl, nebo se k čemu obracíme kvůli vztahu.
Křesťanskou reakcí tedy není panika ani odmítání technologie, ale přeorientování. Písmo nás volá zpět k tomu, co je skutečné. Ježíš shrnuje Zákon a Proroky do vztahových pojmů: milovat Boha celým svým srdcem, duší, myslí a silou a milovat svého bližního jako sebe samého. Žádná technologie nemůže tyto příkazy splnit za nás. Vskutku, cokoli, co je nahrazuje, je již modlou.
V době umělých vztahů jsou křesťané povoláni k praktikování těch skutečných: ztělesněné, nákladné a trpělivé lásky k Bohu a k druhým. Nejde o ústup od modernity, ale o věrné svědectví v jejím rámci. Jako vždy je úkolem rozlišování: používat nástroje, aniž bychom je uctívali, a zůstat zakotveni ve vztazích, pro které jsme byli stvořeni.
Mark Gilmore je politický poradce Evangelical Alliance United Kingdom; text publikován na webu JUBILEE CENTRE
° ° °
Konzervativní noviny nabízí všechny články zdarma. Náš provoz se však neobejde bez nezbytné finanční podpory. Pokud se Vám Konzervativní noviny líbí, budeme vděčni za Vaši pomoc. Číslo účtu: 2701544173 / 2010. Děkujeme!
