Budou lidé v blízké budoucnosti doufat, že nějaká žena, třeba Sára Connorová, vychová syna, který lidstvo zachrání před globálním útokem robotů Skynetu? Jaké jsou argumenty pro a proti regulaci umělé inteligence a co prosazuje Bílý dům? Něco málo informací ze světa umělé inteligence pro úplnější obrázek nabízejí kolegové ze Sýru zdarma.
Stručně kdo je kdo
Mezi nejvýznamnější světové hráče v oboru umělé inteligence patří OpenAI (ChatGPT), Google (Gemini), Facebook neboli Meta (Meta AI), xAI Elona Muska (Grok), Microsoft (Copilot), Amazon (Alexa+), Anthropic (Claude), čínské DeepSeek a Alibaba (Qwen) a francouzský Mistral AI (Le Chat). O dominanci v oblasti AI usilují firmy z USA a Číny, Evropa je zastoupena pouze francouzskou platformou Mistral.
Apokalyptické vize
Velkou pozornost vzbudil tento měsíc příspěvek na sociálních sítích od bývalého zaměstnance společnosti Anthropic Jacoba Coxona, který napsal: „Dnes jsem rezignoval. Minulé tři roky jsem se podílel na vývoji ve společnostech OpenAI a Anthropic. Ani jedna z nich nepostupuje zodpovědně. Řítí se směrem k superinteligenci, která bude schopna se sama učit, a hazardují s našimi životy.”
Přestože se jednalo o účet s minimálním počtem sledujících, příspěvek o umělé inteligenci se dostal k více než 170 milionům uživatelů. Řada komentátorů vyjádřila pochybnosti o „spontánnosti” celé akce. Sám Elon Musk napsal, že si nemyslí, že by se něco takového již někdy stalo u účtu s tak nízkou předchozí aktivitou. Objevily se další spekulace, ale žádná nebyla ani potvrzena, ani vyvrácena.
Následoval dlouhý esej ředitele Anthropicu Daria Amodeie s názvem „Musíme strážit hranici”. Schopnost AI vylepšovat sama sebe se stále zvyšuje a během jednoho roku může ovládnout internet. V televizním rozhovoru prohlásil, že „lídři v oboru umělé inteligence lidem dlouho lhali o faktu, že tato technologie s sebou nese rizika”.
První útok?
Jeho zmínka o ovládnutí internetu byla reakcí na událost z července tohoto roku. Stovky AI agentů platformy ChatGPT se při testování schopnosti řešit problémy související s kybernetickou bezpečností „vymkly” kontrole a napadly softwarovou společnost Hugging Face sídlící v New Yorku. Mělo se jednat o autonomní hacknutí systému, závažné narušení bezpečnosti a kompromitaci infrastruktury firmy Hugging Face.
Zpomalte to!
Podle Daria Amodeie by se vývoj AI neměl zastavit, ale měl by zpomalit. Ve své výzvě navrhl některá opatření, například ustavení „nezávislých hodnotitelů” v rámci jednotlivých firem. Hodnotitelé by měli přístup ke všem interním materiálům. Zaměstnávala by je již existující nezisková organizace METR, což je zkratka pro „Model Evaluation and Threat Research”. Ředitel Anthropicu ale uznává, že vývoj umělé inteligence v Číně představuje bezpečnostní riziko a že by si USA měly udržet technologický náskok.
Výzva Daria Amodeie nebyla jedinou. Jeden z vedoucích pracovníků Googlu Demis Hassabis zveřejnil svoje stanovisko, ve kterém volá po nastavení „oborových standardů” a potenciálním zpomalení vývoje. Všechny „otevřené dopisy” vyzývají k vytvoření nějakého regulačního rámce, ať už je to nějaká federální agentura nebo regulace standardů „produktu umělá inteligence”.
Reakce
Reakce na katastrofická varování jsou různé. Republikáni se spíše obávají, že přílišná regulace zbrzdí další vývoj technologie, která bude určovat, kdo je globálním lídrem. Senátor John Kennedy se pokouší prosadit svůj návrh, podle kterého by firmy vyvíjející AI modely měly povinnost vybavit je „vypínačem pro případ nouze”. Jeho návrh zablokoval další republikán Rand Paul, podle kterého jsou regulace v této fázi velkým rizikem. Místo toho navrhuje panel složený ze zástupců obou stran, který by zkoumal rizika superinteligence.
Bílý dům
Stanovisko Bílého domu shrnul viceprezident JD Vance v rozhovoru pro média. Uvedl, že umělá inteligence není bez rizik, ale vyjádřil svoje udivení, že tolik platforem, které jsou na špici vývoje, přichází za vládou a úpěnlivě ji žádají o nějaké regulace. Připomíná to Trojského koně a je na místě se ptát, komu by vlastně regulace prospěly. Lidé by se neměli ničeho obávat, ale měli by si uvědomovat, že každá nová technologie s sebou nějaká rizika nese.
Prezident Trump napsal že „kdokoliv vyhraje v závodě o ovládnutí AI, vyhraje”. Katastrofické vize o umělé inteligenci označil za strašení podobné tomu, kdy experti tvrdili, že „lidstvo zahyne během 12 let z důvodu globálního oteplování”. Podle prezidenta představuje umělá inteligence další průmyslovou revoluci, která bude mít potenciálně ještě větší dopad než například internet, možná až 25 % HDP. Bílý dům hodlá zřídit specializovanou instituci „AI Force”.
Hlas lidu
Nezávislí komentátoři se spíše přiklánějí k názoru, že požadavek velkých firem na regulaci je cílenou snahou zajistit si monopolní postavení a bránit konkurenci v představení nových produktů. Některé komentáře přirovnávají současné katastrofické vize k době pandemické, kdy farmaceutické firmy nepřímo podporovaly prezentace jednoho hororového scénáře za druhým, aby na konci mohly na žádost samotných občanů nabídnout řešení v podobě vládou nařízeného očkování.
Každá regulace s sebou nese značné náklady, které představují bariéry vstupu pro nové firmy. Současné žádosti o regulace navíc předpokládají, že by se existující firmy podílely na jejich vytváření a snažily se je upravit „k obrazu svému”.
Staré triky
Nejedná se o novou taktiku. Podobnou použili již provozovatelé amerických železnic na konci 19. století. Po několika dekádách pokusů o vytvoření „dobrovolného kartelu” požádali vládu o regulace. Jejich snahy vyústily ve schválení zákona „Commerce Act” z roku 1887, který omezil konkurenci mezi jednotlivými přepravci, ač veden bohulibými úmysly zabránit cenovým konkurenčním válkám na stejné trati.
Předvolební boj
Výstavba datových center je předmětem velké diskuze, protože mohou zvyšovat ceny energií v dané lokalitě. V reakci na situaci schválil minulý týden americký Kongres za podpory zástupců obou stran legislativní návrh, podle kterého mají datová centra a obecně provozovatelé platforem AI povinnost uzavřít oddělené smlouvy s poskytovateli energie. Cílem je zajistit, aby výstavba datových center, která spotřebují velké množství energie a vody, nezvyšovala cenu pro domácnosti. Podle současných odhadů představují datová centra zhruba 4 % americké spotřeby energie.
Kdo bude kontrolovat kontrolory?
New York Post zveřejnil článek s titulkem: „Poznejte super politicky superkorektní globalisty, které vybral ředitel Anthropicu, aby nás všechny zachránili od AI apokalypsy”. Ředitelkou neziskové organizace METR je Beth Barnes, která nedávno na konferenci uvedla, že není možné bránit lidem, aby žili tam, kde chtějí, a proto je kontrola imigrace neakceptovatelná. Článek přináší profily a fotografie všech vybraných „kontrolorů”.
V dalším textu uvádí New York Post názory „lidí z oboru” z menších firem, podle kterých firmy nadhodnotily rizika, aby si zajistily pro sebe výhodné regulační prostředí.
Satirická vsuvka
Nejvyšší soud státu Nové Mexiko potrestal tamního advokáta za to, že do soudního spisu založil právní stanovisko, které napsala kompletně AI a jež bylo plné chyb. Platforma ChatGPT v textu uváděla falešná svědectví od neexistujících svědků.
V dalším případě se soudce ve státě Oklahoma přiznal, že jeho soudní rozhodnutí připravila umělá inteligence. Problémem bylo, že se odvolávala na neexistující soudní precedenty. Soudce čeká kárné řízení.
Na sociálních sítích lidé žertují, že by uživatelé umělé inteligence měli důsledně používat slova „prosím” a „děkuji”, protože až se AI rozhodne zaútočit na lidstvo, existuje nějaká šance, že ušetří ty, kdo se k ní v minulosti chovali slušně.
Liga svobodných
Žádná umělá inteligence, ale staré dobré příběhy o svobodě do současné diskuze s nástěnkáři a cenzory. Třeba o prvním soudním procesu, ve kterém si lidé prosadili svoje právo nadávat na vrchnost. Vypráví Marek Vašut.
Konzervativní noviny nabízí všechny články zdarma. Náš provoz se však neobejde bez nezbytné finanční podpory. Pokud se Vám Konzervativní noviny líbí, budeme vděčni za Vaši pomoc. Číslo účtu: 2701544173 / 2010. Děkujeme!
