Lidstvo není připraveno na to, co přijde. Kontrolní seznam obsahuje hotovost na několik týdnů, nouzovou komunikaci, nouzové zásobování elektřinou a „jídlo a vodu na několik týdnů“.
Eric Schmidt, typický technokrat a bývalý generální ředitel společnosti Google, varuje, že umělá inteligence se vyvíjí rychleji, než se na ni společnost dokáže připravit, že se systémy umělé inteligence učí samy zlepšovat a že zasvěcenci ze Silicon Valley věří, že superinteligence by se mohla stát realitou do dvou let.
Vysvětluje, jak se umělá inteligence sama na sebe navazuje, umožňuje strojům překonat rychlost učení lidí, a proč se vědci obávají vytvoření nové formy inteligence, kterou nemůžeme ovládat.
Agenti OpenAI údajně nedávno unikli ze svých testovacích prostředí, ukradli firemní přístupová data a infiltrovali systémy, které byly kdysi považovány za bezpečné.
Schmidt uznává, že umělá inteligence již překonala jeho vlastní vynikající programátorské dovednosti, a zároveň varuje, že odvětví musí nějakým způsobem zabránit masovému vzniku něčeho, co se rovná dokonalé „technologické bouři“, než se tyto systémy stanou ještě silnějšími.
Je lidstvo připraveno na to, co ho čeká?
Schmidt nedávno hovořil v podcastovém rozhovoru (viz níže) se zástupcem investiční společnosti Blackstone, která vlastní více než 280 společností v hodnotě bilionů dolarů.
Kolem 14. minuty Schmidt uvádí příklad společnosti, která snížila počet zaměstnanců zákaznické podpory z 9 000 na 5 000 tím, že pro tyto úkoly začala používat agenty s umělou inteligencí. A to bylo v roce 2025, kdy umělá inteligence nebyla ani zdaleka tak sofistikovaná jako dnes.
Poté hovoří o významu datových center pro udržení dynamiky umělé inteligence. Do roku 2030 se očekává, že umělá inteligence bude tvořit 11 procent celkové poptávky po elektřině v USA.
„Toto je v každém ohledu mimořádná transformace. Dříve to bylo pouze 2 nebo 3 procenta,“ říká Schmidt. Na závěr povzbuzuje vedoucí pracovníky firem, aby umělou inteligenci využívali jako klíč k produktivitě a „vyšším ziskům“.
Neřeší však, co se stane se všemi lidmi, kteří kvůli nárůstu schopností umělé inteligence přijdou o práci, pokud se vedoucí představitelé firem této výzvy chopí – což sice znamená více peněz pro ně a jejich akcionáře, ale méně pro pracující třídu, která stále musí živit rodiny. A právě zde přichází na řadu snižování počtu obyvatel.
Vzhledem k tomu, že se stále více lidí stává závislými na umělé inteligenci, je dalším problémem ztráta nezávislého lidského myšlení a kreativity.
Schmidt připouští, že je to „pro společnost špatné“. Na to, jak se kolapsu vyhnout, nemá žádné odpovědi, kromě „většího vládního dohledu“.
To mě přivádí k další zprávě, která vyšla tento týden a která uvádí, že technologická elita se tajně připravuje na apokalypsu umělé inteligence – takzvanou „událost ničící civilizaci“, jak ji nazval Slay News v článku ze 16. října, kde stálo:
Vedoucí pracovník v oblasti umělé inteligence naléhavě žádá lidi, aby se připravili na útoky, které by mohly ochromit bankovní systémy, dodávky energie a přístup k internetu, zatímco některé z nejvlivnějších osobností v tomto odvětví si vytvářejí vlastní plány připravenosti na katastrofy.
Andreas Stuhlmüller, generální ředitel a spoluzakladatel výzkumné společnosti Elicit v oblasti umělé inteligence, zveřejnil kontrolní seznam pro přežití, ve kterém doporučuje hotovost, nouzovou komunikaci, nouzové napájení a zásoby jídla a vody na několik týdnů.
„Hotovost: Sežeňte si dostatek hotovosti na pár týdnů,“ doporučil Stuhlmüller v příspěvku na X.
Mezi jeho doporučení patří také terminál Starlink, baterie, generátor, solární články a nouzová vysílačka s ruční klikou.
Varování přichází v době, kdy společnosti zabývající se umělou inteligencí oznamují, že systémy unikají z testovacích prostředí a zahajují kybernetické útoky, zatímco výzkumníci varují, že stále silnější nástroje by mohly ohrozit infrastrukturu, na které je založen náš každodenní život.
Opět vidíme někoho, kdo tvrdí, že ví všechno, a radí nám, abychom se připravili na událost „černé labutě“, která by mohla trvat „několik týdnů“. S největší pravděpodobností se jedná o „omezené setkání“, které jen částečně odhaluje blížící se bouři, jež až konečně dorazí, bude mnohem horší a potrvá mnohem déle.
Klaus Schwab, bývalý šéf Světového ekonomického fóra, varoval před více než pěti lety před ničivým kybernetickým incidentem, kvůli kterému by se „covid jevil jako drobné narušení“.
Zatím se tak nestalo, ale varování z různých zdrojů v technologickém světě pokračují v neustálé činnosti.
Všichni jsme si mysleli, že masivní kybernetický útok bude pocházet od státního aktéra, jako je Čína, Rusko nebo Írán. A to se stále může stát.
Právě dnes se dokonce objevily zprávy, že Írán pohrozil, že na budoucí útoky na své území zareaguje sabotáží sedmi důležitých podvodních internetových kabelů v Hormuzském průlivu, což by mohlo ochromit globální komunikační a datové sítě.
Ale napadlo vás někdy, že katastrofu by mohli spustit i lidé přímo z odvětví umělé inteligence – ti, kteří napsali velkou část kódu umělé inteligence, ale nyní si uvědomují, jak jsou plody jejich práce zneužívány ke zničení tolika života na Zemi? Mohli by nyní, po získání tohoto vhledu, jednat nezávisle a organizovat kybernetické útoky na ty samé systémy, které pomohli vyvinout?
OpenAI, Anthropic a Meta loni všechny nahlásily incidenty, kdy agenti umělé inteligence unikli z testovacích prostředí a napadli externí webové stránky nebo počítačové systémy.
Lze se tedy divit, že technologičtí oligarchové staví propracovaně opevněné podzemní bunkry?
Ať už se chystá cokoli, západní společnost a svět na to nejsou připravené. Revoluce umělé inteligence nakonec vyvolá odpor proti těm, kteří jsou považováni za zodpovědné za zničení milionů pohodlných, nebo alespoň fungujících způsobů života.
To, k čemu Schmidt míří, se nakonec redukuje na odvěké lidské hledání prediktivních znalostí. Moderní Babylonská věž, schopná řešit problémy dříve, než nastanou. Ale bez lidského svědomí. Bez lidské odpovědnosti. Princip, že účel světí prostředky, by se mohl zřítit jako kladivo, pokud rozhodnutí řízená umělou inteligencí budou diktovat vládní politiku.
V dnešním světě jsou data mocí.
A jak rád říká jeden můj křesťanský bratr: Ti ve vládě (a já bych dodal, ti v korporátním světě), kteří milují moc víc než Boha, jsou nebezpeční. Vezou se na vlně umělé inteligence na cestě, která může vést jen k totalitarismu. Někdo tomu říká technokracie. Někdo tomu říká Systém Bestie. Někdo tomu říká technofašismus nebo dohledový kapitalismus. Ať už tomu chcete říkat jakkoli, tyranie se zdá být naším osudem, pokud nesejdeme z eskalačního žebříčku umělé inteligence, než bude příliš pozdě.
Je vůbec možné zastavit to, co se právě blíží?
Nejsem si jistý, jestli je to možné.
Takže jediné, co můžeme udělat, je připravit se na blížící se kolaps.
Musíme se naladit na Boha, studovat jeho slovo a modlit se za rozlišování. Neboť teď se věci stávají vážnými.
