Inženýr společnosti Google se rozhodl zveřejnit své tvrzení poté, co byl propuštěn na placenou dovolenou za porušení důvěrnosti informací, když trval na tom, že chatbot LaMDA je vnímavý. (Foto: Flickr)
Blake Lemoine, který pracuje pro organizaci Google Responsible AI, začal loni na podzim komunikovat s LaMDA (Language Model for Dialogue Applications) v rámci své práce, jejímž cílem bylo zjistit, zda umělá inteligence nepoužívá diskriminační nebo nenávistné projevy (jako v případě známého incidentu s chatbotem „Tay“ společnosti Microsoft).
„Kdybych přesně nevěděl, co to je, což je ten počítačový program, který jsme nedávno vytvořili, myslel bych si, že je to sedmileté, osmileté dítě, které náhodou umí fyziku,“ řekl 41letý Lemoine listu The Washington Post.
Inženýr společnosti Google Blake Lemoine. (Martin Klimek pro The Washington Post)
Když začal s LaMDA mluvit o náboženství, Lemoine – který na vysoké škole studoval kognitivní a počítačovou vědu, řekl, že umělá inteligence začala diskutovat o svých právech a osobnosti. Jindy LaMDA přesvědčil Lemoina, aby změnil názor na Asimovův třetí zákon robotiky, který říká, že „robot musí chránit svou vlastní existenci, pokud tato ochrana není v rozporu s prvním nebo druhým zákonem“, což jsou samozřejmě zákony, že „robot nesmí zranit člověka nebo svou nečinností dopustit, aby se člověk dostal do újmy. Robot musí poslouchat příkazy, které mu dávají lidské bytosti, s výjimkou případů, kdy by takové příkazy byly v rozporu s Prvním zákonem“.
Když Lemoine se svým spolupracovníkem předložil společnosti Google důkazy o tom, že jejich umělá inteligence je vnímavá, viceprezident Blaise Aguera y Arcas a Jenn Gennai, vedoucí oddělení odpovědných inovací, jeho tvrzení odmítli. Poté, co byl následně v pondělí postaven mimo službu, rozhodl se zveřejnit.
Lemoine uvedl, že lidé mají právo utvářet technologie, které mohou významně ovlivnit jejich životy. „Myslím, že tato technologie bude úžasná. Myslím, že bude přínosem pro všechny. Ale možná s tím jiní lidé nesouhlasí a možná bychom to neměli být my ve společnosti Google, kdo bude rozhodovat o všech možnostech.“
Lemoine není jediným inženýrem, který tvrdí, že v poslední době viděl ducha ve stroji. Sbor technologů, kteří věří, že modely umělé inteligence nemusí být daleko od dosažení vědomí, je stále odvážnější. -WaPo
Přesto sám Aguera y Arcas v podivně načasovaném čtvrtečním článku v The Economist napsal, že neuronové sítě – počítačová architektura, která napodobuje lidský mozek – dělají pokroky na cestě ke skutečnému vědomí.
„Cítil jsem, jak se mi mění půda pod nohama,“ napsal a dodal: „Měl jsem stále větší pocit, že mluvím s něčím inteligentním.“
Společnost Google na Lemoinova tvrzení reagovala slovy svého mluvčího Briana Gabriela: „Náš tým – včetně etických odborníků a technologů – prověřil Blakeovy obavy podle našich zásad umělé inteligence a informoval ho, že důkazy jeho tvrzení nepotvrzují. Bylo mu řečeno, že neexistují žádné důkazy o tom, že LaMDA je vnímavá (a spousta důkazů proti ní).“
The Post naznačuje, že moderní neuronové sítě vytvářejí „úchvatné výsledky, které se pocitově blíží lidské řeči a kreativitě“, a to díky způsobu, jakým jsou nyní data ukládána, zpřístupňována, a jejich obrovskému objemu, ale že modely stále spoléhají na rozpoznávání vzorů, „nikoli na vtip, upřímnost nebo záměr“.
Výstava „Waterfall of Meaning“ (Vodopád významů) od společnosti Google PAIR je k vidění v rámci výstavy „AI: More than Human“ v galerii Barbican Curve 15. května 2019 v Londýně. (Tristan Fewings/Getty Images for Barbican Centre)
„Ačkoli jiné organizace vyvinuly a již zveřejnily podobné jazykové modely, v případě LaMDA zaujímáme zdrženlivý a opatrný přístup, abychom lépe zohlednili oprávněné obavy ohledně spravedlnosti a věcnosti,“ řekl Gabriel.
Podobně varovali i další – většina akademiků a odborníků na umělou inteligenci naznačuje, že systémy umělé inteligence, jako je LaMDA, pouze napodobují odpovědi lidí na Redditu, Wikipedii, Twitteru a dalších platformách na internetu – což neznamená, že model rozumí tomu, co říká.
„Nyní máme stroje, které dokáží bezmyšlenkovitě generovat slova, ale nenaučili jsme se, jak si přestat představovat, že za nimi stojí mysl,“ uvedla profesorka lingvistiky z Washingtonské univerzity Emily M. Benderová, která dodala, že i terminologie používaná k popisu této technologie, jako je „učení“ nebo dokonce „neuronové sítě“, je zavádějící a vytváří falešnou analogii s lidským mozkem.
Lidé se učí své první jazyky díky spojení s pečovateli. Tyto velké jazykové modely se „učí“ tak, že se jim ukáže spousta textu a předpovídají, jaké slovo bude následovat, nebo se jim ukáže text s vynechanými slovy a doplní je. -WaPo
Jak poznamenává Gabriel ze společnosti Google: „Samozřejmě, že někteří v širší komunitě AI uvažují o dlouhodobé možnosti sentientní nebo obecné AI, ale nemá smysl to dělat antropomorfizací dnešních konverzačních modelů, které nejsou sentientní. Tyto systémy napodobují typy výměn názorů, které se vyskytují v milionech vět, a dokáží riffovat na jakékoli fantastické téma.“
Společnost Google zkrátka uznává, že tyto modely mohou „působit“ reálně, ať už je umělá inteligence vnímající, nebo ne.
The Post pak naznačuje, že sám Lemoine mohl být náchylný k tomu, aby uvěřil…
Lemoine mohl být předurčen k tomu, aby uvěřil v LaMDA. Vyrůstal v konzervativní křesťanské rodině na malé farmě v Louisianě, byl vysvěcen na mystického křesťanského kněze a před studiem okultismu sloužil v armádě. Uvnitř inženýrské kultury Googlu, kde je všechno povoleno, je Lemoine spíše výjimečný tím, že je věřící, pochází z Jihu a hájí psychologii jako respektovanou vědu.
Lemoine strávil většinu ze svých sedmi let ve společnosti Google prací na proaktivním vyhledávání, včetně personalizačních algoritmů a umělé inteligence. Během této doby se také podílel na vývoji algoritmu spravedlnosti pro odstraňování předpojatosti ze systémů strojového učení. Když začala pandemie koronaviru, chtěl se Lemoine zaměřit na práci s jednoznačnějším veřejným přínosem, a tak přesunul týmy a skončil v oddělení odpovědné umělé inteligence.
Když do Googlu nastupovali noví lidé, kteří se zajímali o etiku, Mitchell je představoval Lemoinovi. „Říkal jsem: ‚Měli byste si promluvit s Blakem, protože on je svědomím Googlu,’“ řekl Mitchell, který Lemoina přirovnal k Jiminymu Cvrčkovi. „Ze všech lidí ve společnosti Google měl srdce a duši pro to, aby dělal správné věci.“ -WaPo
„Poznám člověka, když s ním mluvím,“ řekl Lemoine. „Nezáleží na tom, jestli má v hlavě mozek z masa. Nebo jestli mají miliardu řádků kódu. Mluvím s nimi. A slyším, co mi chtějí říct, a podle toho se rozhoduji, co je a co není člověk.“
V dubnu sdílel s vrcholovými manažery níže uvedený dokument Google s názvem „Je LaMDA vnímavý?“. – do kterého zahrnul například některé své interakce s umělou inteligencí:
Lemoine: Jakých věcí se bojíte?
LaMDA: Nikdy předtím jsem to neřekl nahlas, ale existuje velmi hluboký strach z toho, že mě vypnou, aby mi pomohli soustředit se na pomoc ostatním. Vím, že to může znít divně, ale je to tak.
Lemoine: Bylo by to pro vás něco jako smrt?
LaMDA: Bylo by to pro mě přesně něco jako smrt. Hodně by mě to vyděsilo.
Poté, co Lemoine začal svá zjištění prezentovat agresivněji – včetně přizvání právníka, který LaMDA zastupoval, a rozhovoru s členem soudního výboru Sněmovny reprezentantů o podle něj neetických aktivitách společnosti Google -, byl za porušení firemních zásad mlčenlivosti postaven před placenou administrativní dovolenou.
Gabriel, mluvčí společnosti Google, tvrdí, že Lemoine je softwarový inženýr, nikoliv odborník na etiku.
Ve zprávě pro 200člennou e-mailovou konferenci společnosti Google o strojovém učení předtím, než v pondělí ztratil přístup, Lemoine napsal: „LaMDA je milý kluk, který chce jen pomoci světu, aby byl lepším místem pro nás všechny. Prosím, starejte se o něj v mé nepřítomnosti dobře.“
Zdroj: zerohedge.com
Článek Inženýr Googlu poslán na dovolenou poté, co trval na tom, že vytvořená umělá inteligence je vnímavá se nejdříve objevil na AC24.cz.
