Mozgové implantáty, deepfakes (falošný obsah) a nanoroboty (veľmi malé roboty) môžu byť prvými krokmi k vzniku singularity. Hovorí futurista Ray Kurzweil. Píše o tom Sean Gorman v Popular Mechanics.
Singularita
Tento termín sa často používa na opis hypotetického okamihu, keď umelá inteligencia (UI) prekoná tú ľudskú a následne sa začne nekontrolovateľne zlepšovať. Jednoducho povedané, termín singularita sa často používa na označenie okamihu, keď sa UI stane vedomou. Podobne ako si Skynet uvedomil sám seba vo filme Terminátor.
Koncept „technologickej singularity“ sa však pôvodne javil ako širšia metafora bodu, za ktorým sa technologické zmeny stávajú tak rýchlymi, že budúcnosť je pre ľudí ťažké predvídať.
V roku 1958 matematik Stanisław Ulam spomenul rozhovor s fyzikom Johnom von Neumannom o urýchlení technologického pokroku. Ten mal dosiahnuť „určitú významnú jedinečnosť“ v ľudskej činnosti. V tom čase sa tento termín nevzťahoval na teóriu strojového vedomia.
Ale v roku 1993 matematik a spisovateľ sci-fi Vernor Vinge rozšíril tento koncept v kruhoch zaoberajúcich sa umelou inteligenciou. Vinge vo svojej knihe „Prichádzajúca technologická singularita“ tvrdil, že vytvorenie inteligencie nadradenej ľudskej inteligencii by mohlo spôsobiť nekontrolovateľné zmeny v civilizácii. Po nich by naša schopnosť predpovedať udalosti stratila svoj význam.
Singularita je blízko
Futurista Ray Kurzweil tento výraz neskôr spopularizoval. Najmä svojou knihou z roku 2005 „Singularita je blízko“. V tejto práci dal singularite konkrétnejší význam. Tvrdil, že do roku 2045 sa ľudia spoja s čoraz silnejšou nebiologickou inteligenciou. Preto, hoci sa mnohí z nás dnes obávajú nebezpečenstva UI a niektorí odborníci sa dokonca domnievajú, že singularita už nastala, Kurzweilova myšlienka je oveľa radikálnejšia.
Nepredpokladá len to, že stroje budú rozvíjať rovnaké schopnosti ako ľudský mozog. Namiesto toho hovorí, že stroje poháňané UI sa spoja s naším mozgom a stanú sa s ním jedným. A z Kurzweilovho techno-optimistického hľadiska je to dobrá vec.
V roku 2005 sa to mohlo zdať trochu pritiahnuté za vlasy. Ale vzhľadom na nedávny pokrok v nervových protézach a rozhraniach mozog-počítač a samozrejme v UI, sa zdá byť Kurzweilova predpoveď singularity oveľa pravdepodobnejšia.
Niektoré aspekty jeho kybernetickej singularity však zostávajú kontroverzné. Ak nie úplne nepravdepodobné. Ako presne sa stroj spája s človekom? Ako sa ľudské vedomie nahráva do cloudu? Kým budem „ja“, keď sa stanem nesmrteľnou digitálnou kópiou seba samého žijúcou v nebiologickom tele?
Singularita je bližšia
V opätovnom vydaní svojej knihy z roku 2024 s názvom „Singularita je bližšia“ sa Kurzweil venuje týmto a mnohým ďalším podobným otázkam. Zdôrazňuje, že prenos ľudského vedomia z našich tiel do nebiologických systémov sa nestane okamžite alebo iba jedným spôsobom.
V skutočnosti sa tento prenos už údajne začal vo forme digitálnych simulácií nášho vzhľadu, spôsobov myslenia a reči. Kurzweil zostáva optimistom. Vidí pozitívne aspekty aj v modernom probléme deepfakes.
Domnieva sa, že „prostredníctvom našich digitálnych aktivít už vytvárame neuveriteľne bohaté záznamy o tom, ako myslíme a cítime. A ešte v priebehu tohto desaťročia sa naše technológie na zaznamenávanie, ukladanie a organizovanie týchto informácií budú rýchlo vyvíjať. Do konca 20tych rokov tieto údaje oživíme vo forme nebiologických simulácií. Čo sú vysoko realistické kreácie ľudí s určitými osobnostnými vlastnosťami“.
Robotické verzie ľudí
Proces prenosu ľudských častí do digitálnych kópií už prebieha vo forme zariadení, ako sú ušné implantáty. Tie umožňujú nepočujúcim počuť. Ďalej systémov, ktoré dávajú ľuďom s paralýzou schopnosť ovládať počítače. A novších implantátov ako je Neuralink.
Kurzweil naznačuje vznik čoraz pokročilejších foriem týchto a ďalších umelých orgánov, ktoré čoskoro výrazne zlepšia naše prirodzené ukazovatele sily a dlhovekosti. V určitom okamihu sa tieto rôzne náhrady a simulácie stanú zložitejšími. Spoja sa do robotických verzií nás samých, ktoré budú také presvedčivé, že ich nebude možné odlíšiť od nášho skutočného ja.
Kurzweil si požičiava názov pre túto fázu nášho vývoja smerom ku kybernetickej singularite z klasiky sci-fi Philipa K. Dicka z roku 1968 s názvom „Snívajú Androidi o elektrických ovciach?“. Neskôr bola adaptovaná ako film „Blade Runner“.
„Nakoniec môžu byť replikanti dokonca umiestnení do kyberneticky modifikovaných biologických tiel vypestovaných z DNA pôvodného človeka,“ uvádza.
„Vy 2“
A tu je otázka, kto je kto a čo je čo. A to sa trochu komplikuje. Pretože ak je vaša simulácia skutočne vytvorená z vašej DNA a obsahuje všetky vaše spomienky a charakterové vlastnosti, kto môže povedať, že to v skutočnosti nie ste vy? Kurzweil nazýva taký celistvý replikant „Vy 2“.
„Je dôležité, že replikant bol vytvorený pomocou UI a analýzy údajov, na rozdiel od plne premiestnenej mysle „Vy 2“ z mozgu niekoho živého?“ pýta sa. Hoci implikovaný význam je zrejmý. Presvedčivý deepfake je jedna vec, ale živá kópia, obdarená všetkými vlastnosťami originálu, je úplne iná.
Kurzweil poznamenáva, že to vyvoláva množstvo kardinálnych otázok o replikantoch „Vy 2“.
„Mali by sa považovať za ľudí so všetkými ľudskými a občianskymi právami? Ako je volebné právo a právo uzatvárať zmluvy? Sú zodpovední za podpísané zmluvy alebo trestné činy, ktoré predtým spáchala osoba, ktorú nahrádzajú? Môžu byť výsledky práce a činnosť osoby, ktorú nahrádzajú, považované za ich vlastné? Je potrebné znovu sa oženiť so zosnulým manželom alebo manželkou, ktorí sa vrátili ako replikant? Budú replikanti vylúčení alebo diskriminovaní? Za akých podmienok by sa malo obmedziť alebo zakázať vytváranie replikantov?“
Odpovede na tieto a podobné otázky slúžili desaťročia ako zdroj inšpirácie pre populárnu sci-fi. Takže v žiadnom prípade nie sú cudzie. Napriek tomu zostávajú príliš zvláštne, aby nám pripadali prirodzené.
Ale čo je najdôležitejšie, všetky tieto úspechy povedú k revolúcii vedenej nanorobotmi. Nanoroboty sa v súčasnosti používajú predovšetkým na dodávanie liekov. Ale pre Kurzweila sú kľúčom k nášmu prípadnému kybernetickému vývoju na nebiologických ľudí.
A čo je najdôležitejšie, urobia náš mozog miliónkrát silnejším, ako teraz. Ako píše, „v 40tych až 50tych rokoch tohto storočia prebudujeme svoje telá a mozgy tak, aby výrazne prevyšovali možnosti našej biológie. Vrátane ich zálohovania a prežitia. S pokrokom v nanotechnológii budeme môcť ľubovoľne vytvárať optimalizované telá. Budeme môcť bežať oveľa rýchlejšie a dlhšie. Plávať a dýchať pod vodou ako ryby. A dokonca mať funkčné krídla, ak chceme. Budeme myslieť miliónkrát rýchlejšie. Ale čo je najdôležitejšie, nebudeme závisieť od prežitia žiadneho z našich tiel pre naše vlastné prežitie“.
„Šedý sliz“?
To všetko má, samozrejme, potenciálne nevýhody. Podľa Kurzweila je najvýznamnejším nebezpečenstvom, že sa nanoroboty môžu vymknúť spod kontroly a začať sa nekontrolovateľne množiť. Môžu sa množiť tak rýchlo, že doslova spotrebujú všetok organický materiál na zemskom povrchu a všetko premenia na hromady beztvarej hmoty.
„Najčastejšie diskutovaným najhorším scenárom je potenciálne vytvorenie „šedého slizu“. Teda samoreplikujúcich sa strojov, ktoré spotrebúvajú hmotu obsahujúcu uhlík a premieňajú ju na iné samoreplikujúce sa stroje. Tento proces môže viesť k nekontrolovateľnej reťazovej reakcii, ktorá potenciálne premení celú zemskú biomasu na takéto stroje,“ uvádza.
Čo bude znamenať „byť človekom“?
Predpokladajme ale, že sa to nestane. A že sa dočkáme „kybernetickej singularity“. Potom? Asi najnaliehavejším problémom je, že nebude možné rozlíšiť, kto skutočne sme, od našich náprotivkov alebo nebiologických prídavkov. Inými slovami, čo bude v konečnom dôsledku znamenať „človek“ v kontexte ľudskej kontroly. Keď začneme zavádzať nebiologickú zložku do rozhodovacieho procesu začiatkom 30tych rokov pomocou rozhraní mozog-počítač.
Táto nebiologická zložka bude rásť iba exponenciálne. Zatiaľ čo naša biologická inteligencia zostane nezmenená.
Do konca roku 2030 teda bude naše myslenie do značnej miery nebiologické. Kde bude ľudský rozhodovací proces, keď sa naše vlastné myslenie bude spoliehať hlavne na nebiologické systémy? Existuje nejaký spôsob, ako odlíšiť jedno od druhého?
