Nový systém přesvědčení sjednocuje některé z nejbohatších mužů světa kolem „transhumanistické“ budoucnosti – a skutečné lidstvo ať jde k čertu!
Známý žurnalista Eduardo Porter na stránkách listu The Guardian varuje před šíleným utopismem technologických oligarchů ze Silicon Valley. Představa, že se blížíme ke konci homo sapiens, jak jej známe, se stává trvalou součástí přesvědčení těchto nových mocných elit. Bylo by chybou chápat jejich podivné názory na svět jako neškodný názor nadšenců, kteří vyrostli na dystopické sci-fi. Oni mají peníze a moc. Sní o vytvoření efektivnější, a tedy užitečnější civilizace. Jaký bude osud nás ostatních, kteří nejsme užiteční?
Sam Altman, generální ředitel společnosti OpenAI, před několika lety navrhl, že homo sapiens bude prvním druhem, který „nadesignuje své vlastní potomky“. V nejoptimističtějším scénáři dojde ke „splynutí“ lidí a umělé inteligence někdy v průběhu příštích 50 let. Alternativní scénář, v němž my zůstaneme pouhými lidmi a stroje se vydají vlastní cestou, je mnohem znepokojivější. „Pokud dva různé druhy chtějí totéž a jen jeden z nich to může získat – v tomto případě být dominantním druhem na planetě i mimo ni – dojde mezi nimi ke konfliktu,“ napsal Altman.
Elon Musk, nejbohatší muž světa, jemuž byla loni na chvíli svěřena pravomoc přestavět americkou federální vládu, nedávno argumentoval na síti X, že „se stále více zdá, že lidstvo je biologickým bootloaderem pro digitální superinteligenci“ – naše role v historii vesmíru se tak redukuje na úroveň nízkého kódu, který spustí počítač, než na něm můžete spustit sofistikované programy.
A Musk je v této evoluční otázce ještě umírněný. Podle legendy ze Silicon Valley se kdysi ohradil proti tvrzení spoluzakladatele Googlu Larryho Page, že naše další podoba, která bude následovat po lidech z masa a kostí, jací dnes chodí po světě, bude nutně mít digitální podobu, aby se mohla rozšířit po celé galaxii. Maso a kosti nejsou pro mezihvězdné cestování příliš efektivní.
Koho zajímá, jestli umělá inteligence nahradí všední lidskou práci, když nám nabízí příležitost překročit hranice našeho těla a dobýt galaxii?
Bylo by chybou chápat tyto podivné názory jako neškodné snění technických nadšenců, kteří vyrostli na dystopické sci-fi. Představa, že se blížíme ke konci homo sapiens, jak jej známe, se spojuje do trvalého souboru přesvědčení mezi elitami, které stojí u kormidla naší technologické budoucnosti.
Jejich sny nejsou dokonale sladěné. Ale podobně jako lidové příběhy a pověry, které se odjakživa točily kolem zavedenějších náboženských tradic, i sbírka „za vlasy přitažených“ scénářů, které oligarchové ze Silicon Valley sdílejí, vykazuje znaky rodícího se náboženství, souboru přesvědčení, který má jejich high-tech projektu propůjčit pocit kosmické transcendence a osudové nevyhnutelnosti.
Ve svých myslích jsou na cestě k další fáze lidstva, k „trans-humánní“ budoucnosti. V této budoucnosti mohou uspokojit svou touhu po nesmrtelnosti a uplatnit moc nad vesmírem. Jejich konečným cílem je uskutečnit techno-mystický sen o destilaci esence toho, co znamená být člověkem, včetně vědomí, do bitů informací, které budou staženy jako binární kód na nějaký nebiologický substrát, jako je křemíkový čip, nebo vyslány vesmírem jako elektromagnetické vlny.
Mytopoetická infrastruktura vybudovaná v San Franciscu a jeho okolí představuje pro lidstvo, jak ho známe, stále vážnější riziko. Ospravedlňuje směřování technologie cestou, která je v nejlepším případě lhostejná k potřebám, nadějím a touhám obyčejných lidí, ve snaze přinést budoucnost, která vypadá jako utopie pouze pro tyto pány vesmíru.
Koho zajímá, že umělá inteligence nahradí všední lidskou práci, když nám nabízí příležitost překročit hranice našeho těla a dobýt galaxii? Technologii řídí fantazie: místo toho, aby vytvářeli ekonomicky užitečné nástroje, které by lidem pomohly rozšířit jejich schopnosti, vkládají vládci AI obrovské prostředky do snu o vytvoření superlidí.
Tato přesvědčení se v posledním čtvrtstoletí dostávají do popředí, když doprovázejí pokrok informačních technologií, který nové IT elitě přinesl obrovské bohatství a moc. Elita touží po transcendentním smyslu, ale je lhostejná nebo dokonce nepřátelská k tvrzením a morálním omezením tradičního náboženství.
„Silicon Valley je militantně sekulární prostor,“ řekl mi prominentní myslitel v oblasti IT, jehož zaměstnavatel by nebyl nadšen, kdyby se to dostalo na veřejnost. „Vytvořilo to díru ve tvaru Boha, kterou zaplnilo podle svého obrazu.“ Poté, co odmítli standardní náboženské zdroje smyslu, našli alternativní cestu, jak dát svému životu smysl prostřednictvím trans-humánních snů. Slovy Elona Muska v melodickém příspěvku na X: „Ateismus zanechal prázdný prostor. Jeho místo zaujalo sekulární náboženství.“
Tato novodobá kosmogonie se skládala dohromady od počátků internetu, ale dechberoucích nových horizontů dosáhla na bedrech umělé inteligence, která otevřela nové možnosti pro transhumanistický sen.
Taková utopie se může jevit jako podivná, zapadá však do delší tradice obchodních titánů s obrovským bohatstvím, kteří se snaží obdařit své podniky transcendentní hodnotou. Henry Ford kdysi také věřil, že jeho poslání je větší, než jen transformace výroby automobilů; věřil, že má za úkol přetvořit svět, aby zlepšil společnost.
Ford vybudoval Fordlandii, což byl pokus v brazilském deštném pralese o vytvoření harmonického společenského řádu podporovaného průmyslovou kaučukovou plantáží. Altman, Musk a parta ze Silicon Valley chtějí spojit vědomí s umělou inteligencí a dobýt vesmír. Rozdíl mezi těmito vizemi spočívá hlavně v technologických možnostech doby.
Nebezpečí pro nás ostatní spočívá v tom, že ambice technologické oligarchie přetvoří společsnot a její ekonomiku tím, že přesměrují zdroje – kapitál, energii, suroviny, vodu – na urychlení vývoje AI a uskutečnění trans-humanistických snů na úkor zdravotnictví, vzdělávání nebo sociální politiky.
Američané začínají projevovat náznaky neklidu nad neomezenými choutkami této skupiny AI magnátů, Trumpova administrativa však zatím vykazuje jen málo známek, že by chtěla jakkoliv regulovat či omezovat jejich úsilí.
Budoucí utopie na programu
V Silicon Valley panují různé názory na to, jak má budoucnost lidstva vypadat. Altman a Page jsou snad nejvíce odhodláni dosáhnout spojení lidí se superinteligentní technologií a opuštění tělesné schránky. Altman byl jedním z prvních podporovatelů startupu Nectome, který chce získávat informace obsažené v anatomickém uspořádání mozku a molekulárních detailech za účelem budoucí replikace vědomí. „Předpokládám, že můj mozek bude nahrán do cloudu,“ říká Altman otevřeně.
Musk chce něco trochu jiného, také směřujícího do vesmíru, ale oddaného tělu, vylepšenému počítačem, prostřednictvím čehosi na způsob rozhraní mozek-počítač, které vyvíjí jeho vlastní neurotechnologická společnost NEURALINK. Peter Thiel, známý díky firmám PayPal a Palantir, se mračí nad „pouhým počítačovým programem, který mě simuluje“, ale je fascinován technologickým ideálem „radikální transformace, při které se vaše lidské, přirozené tělo promění v tělo nesmrtelné“.
A přesto se tyto vize v čemsi sbíhají. Existují společné zdroje, které dodávají různým sci-fi ambicím smysl jakéhosi morálního poslání. Jedním z hlavních výchozích bodů je Hnutí za efektivní altruismus (EA), které technologickou elitu okouzlilo svou výzvou k neochvějné racionalitě.
Filantropie, tvrdí přívrženci EA, byla dosud z velké části promarněna financováním například místní knihovny a podobných pozemských záležitostí. Zlepšování světa budoucnosti má větší smysl, než utrácení za současnost.
Charita, jak byla dosud chápána, představuje plýtvání zdroji, které technologové budou potřebovat k překonání současnosti. Dárci musejí být cílevědomí a pečlivě směřovat své peníze pouze tam, kde to přinese největší prospěch pro co nejvíce lidí. Musk označil empatii za „základní slabost západní civilizace“.
Pak už stačí jen jeden malý krůček k přesměrování cílů do vesmíru: co takhle se zaměřit na blaho nesčetných budoucích trans-humanů, obývajících v daleké budoucnosti rozsáhlé oblasti galaxie? Možná budou z masa a kostí. Možná ne…
Jedním z cílů je posunout se nahoru na Kardaševově stupnici – která měří technologickou vyspělost civilizace na základě množství energie, které je schopna využít – aby bylo možné využít energii a získat technologické schopnosti potřebné k překonání našich biologických omezení. Současné lidstvo, které se nachází na samém spodku žebříčku, nespotřebovává ani veškerou energii Země. Podle této úvahy se od vyspělých civilizací očekává, že spotřebují nejméně veškerou energii své hvězdy, ne-li celé galaxie.
Jednou z prvních skupin prosazujících trans-humánní budoucnost byli v 90. letech ultraliberální Extropiáni (anglicky Extropians), stoupenci extropianismu, což je optimistický a technologicky orientovaný směr transhumanismu. Patřili k nim přední intelektuálové jako Eliezer Yudkowsky, Bostrom a ekonom Robin Hanson. Ve svých základních principech navrhli „extropii (jako opak entropie), tedy neomezenou expanzi: hledání větší inteligence, moudrosti a efektivity, neomezenou délku života a odstranění politických, kulturních, biologických a psychologických limitů seberealizace a sebeuvědomění. Neustálé překonávání omezení našeho pokroku a možností. Expanzi do vesmíru a nekonečný pokrok.“
Další, novější odnoží jsou akceleracionisté, přesvědčení, že současný společenský systém, kapitalismus a technologický vývoj by se neměly brzdit ani regulovat, ale naopak co nejvíce zrychlit. Pokusili se přivést fyziku na svou stranu a kontroverzně argumentují, že maximalizace inteligentního života je nezbytná, protože život je dobrý v získávání dostupné energie z prostředí a jejím rozptylování – čímž zvyšuje to, co je ve fyzice známé jako „entropie“.
Jak uvádí Beff Jezos – on-line identita Guillauma Verdona, jedné z vůdčích osobností hnutí: „Efektivní akceleracionismus si klade za cíl následovat ‚vůli vesmíru‘: opřít se o termodynamickou tendenci směřující k budoucnosti s většími a chytřejšími civilizacemi, které jsou efektivnější v hledání/získávání volné energie z vesmíru a její přeměně na užitek v čím dál větším měřítku.“
Podrobnosti těch snů nemají ve skutečnosti valný význam, protože nás – všechny ostatní, neprivilegované – odkazují na totéž místo. Nyní jde o to, zda pánové vesmíru – investující do využívání energie hvězd, vedení morálním prizmatem, předpokládajícím, že blaho nynějších lidí má nižší hodnotu než blaho mnohem početnějších humanoidů v budoucnosti – budou mít trpělivost postarat se o nás.
Náznaky nejsou příznivé. Například venture kapitalista ze Silicon Valley Marc Andreessen chce „zajistit, aby vzestupná spirála technokapitalismu pokračovala navždy“. Jeho seznam nepřátel zahrnuje prakticky jakoukoli osobu nebo myšlenku, která by mohla stát v cestě jeho úsilí. To zahrnuje „udržitelnost“, „společenskou odpovědnost“ a „technologickou etiku“.
Peter Thiel je v této skupině výjimečný tím, že je oddaný svérázné variantě křesťanství, podle níž se každý, kdo stojí v cestě technologii, včetně vlády, které se ho snaží zdanit, jeví jako antikrist. Jako zapřisáhlý libertarián pohrdá vládní redistribucí. Jeho filantropie spočívá v ziskových investicích do projektů na podporu technologického pokroku.
Pokud stvoříte Boha…
Narativ, vytvořený miliardáři ze Silicon Valley, ospravedlňuje jejich obrovské hromadění moci, bez ohledu na konkrétní rysy jejich trans-humanistických snů. Jak říká technologický vizionář Jaron Lanier: „Pokud stvoříte Boha, ale ten Bůh vám patří, stanete se diktátorem.“ A tito diktátoři zjevně nevěří, že pozemští lidé – alespoň většina z nás – jsou nějak zvlášť cenní.
Naprostá lhostejnost vůči nám ostatním je patrná v častých hodnoceních toho, co by nám AI mohla přinést – konec lidské práce, výrobu zbraní hromadného ničení, dokonce i vyhynutí lidstva. Manifest společnosti Palantir uvádí, že „jedna éra odstrašování, atomová éra, končí a začíná nová éra odstrašování založená na AI.“ Nebo, jak to kdysi vyjádřil Musk: „S umělou inteligencí vyvoláváme démona.“
Současně však tito guruové přiznávají, že nemají tušení, co přesně dělají. „Lidé mimo obor jsou často překvapeni a znepokojeni, když se dozvědí, že úplně nerozumíme tomu, jak fungují naše vlastní výtvory,“ napsal loni spoluzakladatel Anthropic Dario Amodei. „Mají pravdu, když se obávají: tento nedostatek porozumění je v historii technologie v podstatě bezprecedentní.“
Zvláště znepokojující je, jak neomezeně se tito magnáti chovají při sledování futuristické utopie, kterou plánují vybudovat pomocí svých strojů. Technologičtí miliardáři vkládají stovky milionů do politických kampaní, aby odrazili pokusy o regulaci a vyhnuli se odpovědnosti, kdyby se jejich snahy zvrtly. Chtějí se ujistit, že jim nikdo nebude zasahovat do práce na přetváření společnosti. A do značné míry se jim to daří – prozatím se nikdo, kdo by měl moc je zastavit, do ničeho nevměšuje.
Co je třeba dělat?
Jak by měla společnost zasáhnout? Poskytuje náš politický systém nástroje, které pomohou nasměrovat tyto procesy pozitivním, pro-sociálním směrem? Jak bychom měli řešit úzkou koncentraci plodů těchto snah o vytvoření trans-humánních kyborgů s křemíkovými mozky, kromě nejistého dopadu technologie na naši budoucí ekonomickou a sociální situaci?
Trumpova administrativa dosud projevila jen malý zájem o odpor proti fantazii technologických oligarchů. To však nutně neznamená, že projekt technologické nadvlády oligarchů ze Silicon Valley je nevyhnutelný.
Mezi příznivci hnutí MAGA se objevují obavy: lidé ve venkovské Virginii, kteří se brání datovým centrům, která zabírají zásoby elektřiny a vody, evangelikálové, kteří se obávají kosmopolitní elity, která se odvolává na vyšší autoritu ovlivněnou technologiemi.
Pro projekt AI se rýsují i další známky potíží – od vysokoškolských absolventů, kteří pískotem vyhánějí řečníky, vychvalující AI, až po Trumpův krátký moment obav z potenciálních kriminálních schopností nového modelu Mythos od společnosti Anthropic, než se nakonec rozhodl tuto věc neregulovat. V nejnovějším průzkumu z počátku května více než dvakrát tolik registrovaných voličů uvedlo, že AI je převážně špatná, ve srovnání s těmi, kteří ji označili za převážně dobrou.
Snad nejvýraznější pro-lidský postoj zaujal papež Lex XIV. ve své encyklice Magnifica Humanitas, v níž se postavil proti neomezenému rozvoji AI na úkor pracovních míst a sociální spravedlnosti. To „vytváří paradox materiálního pokroku a antropologického úpadku, který podkopává základy spravedlivého a stabilního sociálního míru,“ dodává papež.
Jistou útěchu může přinášet i skutečnost, že vize oligarchů se zdá tak nerealistická. Znovu přichází na mysl Ford a jeho civilizační sen. Fordlândia dnes leží v troskách. Z břehů Amazonky se k nebi tyčí opuštěná vodárenská věž, zchátralé domy ve stylu amerických předměstí obklopují opuštěné hřiště a prázdný bazén. Ruiny dětských školek, v nichž – díky Fordově averzi vůči kravám – měly být děti dělníků krmeny sójovým mlékem, dováženým z daleka. To, co zbylo, je svědectvím o nesourodých snech oligarchie, která přecenila svou moc a zaměnila vlastní choutky za vyšší dobro.
Kosmická fantazie poháněná AI není o nic méně šílená. Možná i tentokrát tyto bizarní sny ztratí na významu; vize ze Star Treku, v níž jsou lidé dematerializováni a teleportováni po galaxii, se rozpadne na rezavou hromadu. Možná transhumanistický projekt ustoupí více či méně rozpoznatelně lidské budoucnosti s několika skvělými novými pluginy pro umělou inteligenci. Možná se to dokonce podaří způsobem, který poslouží našemu dávno zapomenutému snu o spravedlivé prosperitě. Kdo ví?
Zatím však naši technologičtí vizionáři horují pro budoucnost, ve znamení obrovské koncentraci bohatství a moci a naprosté lhostejnosti k všedním touhám neinformované většiny. V nepravděpodobném případě, že se jim podaří vzít podstatu Page, Muska a jim podobných na palubu křemíkového těla a odletět „tam, kam se dosud žádný člověk nevydal“ – doufejme, že cenou za to nebude zničení světa, jaký známe.
Publikováno v listu The Guardian
Konzervativní noviny nabízí všechny články zdarma. Náš provoz se však neobejde bez nezbytné finanční podpory. Pokud se Vám Konzervativní noviny líbí, budeme vděčni za Vaši pomoc. Číslo účtu: 2701544173 / 2010. Děkujeme!
