Anglický spisovatel, básník, esejista Paul Kingsnorth, hluboký kritik moderní technologicko-průmyslové civilizace, letos na jaře inicioval kampaň Writers Against AI jako „decentralizované hnutí odporu“, sdružující autory, kteří chtějí „chránit čistě lidskou kreativitu před Strojem“. Signatáři manifestu se dobrovolně zavazují, že ve své vlastní tvorbě vůbec nebudou využívat AI. Mezi mnoha kritiky Kingsnorthova manifestu zaujal zejména americký spisovatel Michael S. Hyatt, známý byznysový kouč a odborník na leadership. Ten Paulu Kingsnorthovi na svém blogu odpověděl takto…
V roce 1984 Gore Vidal prohlásil, že textový editor ničí literaturu. Byl jedním z nejlepších spisovatelů své generace. A také se mýlil.
Paul Kingsnorth je jedním z nejlepších současných esejistů. Jeho próza je nádherná. Jeho přesvědčení jsou hluboká. A jeho nedávný manifest „Spisovatelé proti umělé inteligenci“ je nejvýstižnější argument, jaký jsem četl, proč spisovatelé jako já zrazují své řemeslo.
Mýlí se. Ale mýlí se způsobem, který stojí za to brát vážně.
Protože Kingsnorth nevznáší nové obavy. Vznáší ty velmi staré. A právě tu historii – historii toho, co se stane, když nadaní lidé z principu odmítají nové nástroje – musíme prozkoumat.
Tento příběh už byl vyprávěn
Vraťme se do 80. let.
Gore Vidal, jeden z nejslavnějších amerických literátů, v roce 1984 prohlásil, že „textový editor ničí literaturu“. Jeho obava nebyla bezdůvodná. Věřil, že snadnost úprav svede spisovatele k nadměrnému psaní, že revize se stane bez námahy, a tudíž bezvýznamnou, a že těžce vydobytá disciplína vkládání trvalých slov na stránku se rozplyne v nekonečné revize a vylepšování.
Nebyl sám. Mnozí z nejprestižnějších literárních autorů té doby se textovým editorům bránili celé roky, někteří dokonce desítky let. Spisovatelé v Iowa Writers’ Workshop v 80. letech se tak obávali, že budou spojováni s automatizací, že upravovali své výtisky a do rukopisů vytvořených na počítači přidávali ručně psané poznámky, jen aby jejich dílo vypadalo „skutečněji“. Obávali se, že čistopis bude vypadat jako práce písařky, nikoli génia.
Stanovili si hranici. Stejně jako Kingsnorth.
Měl Gore Vidal pravdu? Vymazal textový editor literaturu? Vytvořili spisovatelé, kteří přijali počítače, méně hodnotná díla než ti, kteří se drželi svých psacích strojů?
Odpověď znáte.
Vraťme se ještě dál. Když se v 70. letech 19. století poprvé objevil psací stroj, mnoho spisovatelů k němu chovalo hlubokou nedůvěru. Stroj působil průmyslově, mechanicky, příliš vzdáleně od intimity pera na papíře. Mark Twain, který byl charakteristicky napřed před svou dobou, se stal jedním z prvních autorů, kteří vydavateli předložili strojopisný rukopis. Většina jeho současníků si myslela, že se tím ponižuje.
I oni si vytyčovali hranici.
Pojďme ještě dál. Když Gutenbergův tiskařský lis začal v 50. letech 15. století masově vyrábět knihy, evropští písaři byli zděšeni. Ručně opisované knihy mnichů v sobě nesly posvátnost, která se zdála nezmenšitelná. Strojově tištěná kniha působila lacině. Znehodnoceně. Jak by mohlo něco, co bylo vyrobeno identicky a ve velkém množství na lisu, mít stejnou váhu jako rukopis napsaný lidskou rukou?
I oni vytyčili hranici.
Každá z těchto hranic byla nakonec překročena. Proti každé z těchto technologií – tiskovému lisu, psacímu stroji, textovému editoru – se postavili ti nejuvážlivější a nejzásadovější lidé své doby. A každá z těchto technologií nakonec rozšířila dosah lidských příběhů, nikoli je omezila.
Luddité měli pravdu. To je však nezachránilo.
Abychom byli ke Kingsnorthovi spravedliví, existuje skutečná tradice zásadového odmítání technologií. Luddité nebyli prostě jen iracionální. Byli to na počátku 19. století zruční angličtí textilní dělníci, kteří sledovali, jak mechanizované tkalcovské stavy ohrožují nejen jejich pracovní místa, ale i celý jejich způsob života – kulturu řemesla, autonomie a vzájemných závazků mezi dělníkem a obchodníkem, která po generace udržovala jejich komunity.
Rozbíjeli stroje. Organizovali se. Psali manifesty, které se od Kingsnorthových příliš nelišily. Britská vláda nasadila k jejich potlačení 12 000 vojáků – více, než kolik jich vévoda z Wellingtonu vyslal do Portugalska. Desítky z nich byly pověšeny. Ostatní byli deportováni do trestaneckých kolonií v Austrálii.
V roce 1813 se hnutí rozpadlo. Industrializace pokračovala bez nich.
Neříkám to proto, abych byl krutý. Jejich stížnosti byly oprávněné. Tovární systém skutečně zhoršil jejich pracovní podmínky. Mnozí z nich skutečně upadli do chudoby. Historie jejich obavy příliš rychle smetla ze stolu. Ale jejich odpor stroje nezastavil. Nezachránil jejich řemeslo. Svět, který se snažili bránit, stejně zmizel.
Amishové nabízejí mírnější verzi téhož příběhu. Jsou to skutečně obdivuhodní lidé, komunity s pozoruhodnou soudržností, odhodláním a vírou. Pečlivě a společně se rozhodli v určitých historických okamžicích přestat přijímat nové technologie. Tato volba má svou cenu. Omezuje jejich ekonomickou účast, vzdělávací příležitosti i možnosti lékařské péče. Tyto omezení přijímají jako cenu za své hodnoty.
To je soudržný postoj. Ale je to také ze své podstaty postoj menšiny. Většina z nás se nemůže ze světa vyvázat tak, jak to dokážou Amishové, zejména ti z nás, kteří podnikají, vedou organizace a snaží se obstát v globální ekonomice. Zásadové nepřijímání nových technologií s sebou nese cenu, kterou většina lidí není ochotna a pravděpodobně by ani neměla být ochotna zaplatit.
V čem má Kingsnorth pravdu
Jedno rozhodně dělat nechci: zlehčovat jeho obavy.
Kingsnorth poukazuje na něco reálného, když se obává, že příběhy generované umělou inteligencí nahradí ty lidské. Mezi příběhem, který vychází ze skutečně prožitého života, a příběhem syntetizovaným z datových vzorců je významný rozdíl. Stroj nemá žádnou zkušenost se zármutkem, neúspěchem ani s tou konkrétní kvalitou světla v úterní odpoledne, kdy se všechno pokazilo. Tyto věci jsou pro příběhy důležité. Právě ony dělají příběhy pravdivými.
Má také pravdu v tom, že v outsourcingu myšlení číhá nebezpečí. Student, který k napsání eseje využívá umělou inteligenci, se nenaučil psát. Vůdce, který veškeré rozhodování přenechává nástroji, se nenaučil myslet. Snadnost, kterou umělá inteligence nabízí, se může stát jakousi intelektuální leností maskovanou za efektivitu.
Pokud delegujeme samotný proces přemýšlení na algoritmus, dochází ke kognitivnímu odlehčování. Člověk tím ztrácí schopnost hluboce a samostatně myslet. V tom má Kingsnorth pravdu – bezhlavé spoléhání se na AI lidi otupuje.
To jsou vážné obavy. Zaslouží si seriózní přístup – ne manifest odmítnutí, ale skutečné vypořádání se s otázkou, jak tyto nástroje používat, aniž by nás omezovaly.
Delegovat administrativní úkony (jako je plánování kalendáře nebo čištění poznámek) je chytré, ale delegovat uvažování za byznysovým či tvůrčím rozhodnutím je cesta do pekel.
Otázka, kterou si Kingsnorth neklade
Jeho esej se však nikdy nezabývá tímto: Co přesně umělá inteligence nahrazuje?
Když píšu, mé myšlenky jsou stále moje. Moje zkušenosti jsou stále moje. Čtyřicet let vedení organizací, budování týmů, učení se z neúspěchů – nic z toho nepochází ze stroje. Pochází to ze života. A právě ten život vkládám na stránku. Cílem je skrze AI donutit lidský mozek pracovat, nikoliv nechat stroj generovat hotové texty.
Umělá inteligence mi pomáhá psát návrhy rychleji. Jako trenažér kritického myšlení, nikoli jako tvůrce obsahu, jako sparingpartner, ne jako autor. Pomáhá mi najít frázi, kterou jsem nemohl úplně najít. Pomáhá mi vylepšovat strukturu a testovat argumenty. Je to nástroj. Podobně jako textový editor, kterého se obával Gore Vidal, nebo psací stroj, kterému nedůvěřovali písaři v 70. letech 19. století.
Spisovatelé, které znám a kteří jsou z umělé inteligence nadšeni, se nevzdávají svého řemesla. Jsou to ti, kteří vždy bojovali s časem a ekonomickými omezeními, kteří měli více co říct, než jim okolnosti dovolovaly, a kteří nyní mají nástroj, který rozšiřuje jejich možnosti. To není zrada. To je to, co spisovatelé vždy dělali s novými nástroji.
Kingsnorth, mimochodem, napsal své manifest na počítači. Zveřejnil ho na platformě postavené na serverech napájených elektřinou vyrobenou průmyslovou infrastrukturou. Propagoval ho na internetu. Není a ani nemůže být osvobozen od technologické civilizace, kterou kritizuje. Nikdo z nás nemůže. Otázkou nikdy nebylo, zda se zapojit do technologie. Otázkou bylo, které technologie a jak.
Kam vás odmítání dovede?
Kingsnorth uzavírá svůj manifest strhujícím obrazem odporu. Spisovatelé se spojují. Vytyčují se hranice. Lidská kreativita se brání proti stroji.
Je to silný obraz. Chápu jeho přitažlivost. Když se něco, co milujete, cítí ohroženo, je instinkt sjednotit se velmi lidský.
Ale pořád přemýšlím o Gore Vidalovi v roce 1984. O spisovatelích z Iowa Workshopu, kteří schovávali své výtisky z počítače. O písařích, kteří sledovali, jak z Gutenbergova tiskařského lisu vycházejí první tištěné Bible, a přemýšleli, co teď budou dělat.
Většina z nich se přizpůsobila. Našli nové způsoby, jak své lidské dary přenést do nových nástrojů. A příběhy nepřestávaly přicházet.
Odmítání má konzistentní historický výsledek. Zanechá vás pozadu. Způsobí, že vaše dílo osloví méně lidí. Přenechá pole těm, kteří se přizpůsobí, kteří možná vnesou do těchto nástrojů méně moudrosti a řemeslného umění, než byste vnesli vy. Pro příběhy, které Kingsnorth miluje, je to ztráta, ne výhra.
V co skutečně věřím
Věřím v lidskou kreativitu. Věřím, že příběhy mají význam. Věřím, že váš hlas, váš specifický úhel pohledu, vaše těžce vydobyté pochopení světa, je nenahraditelné. Žádný stroj to nedokáže vyrobit.
A já AI používám.
To není v rozporu. Je to stejný postoj, jaký spisovatelé zastávali vždy: využívejte nástroje, které máte k dispozici. Vložte do nich svou lidskost. Nenechte je nahradit vaše myšlení, ale ani je z principu neodmítejte. Princip bez pragmatismu je jen elegantnější formou kapitulace.
Kingsnorth má pravdu v tom, že si musíme klást těžké otázky ohledně umělé inteligence. Komu to prospívá? Jaké jsou skutečné náklady? Jak zachováme to podstatné z lidské kreativity ve světě, kde stroje dokážou vytvářet věrohodné napodobeniny? Tyto otázky si zaslouží seriózní odpovědi.
Manifest vyzývající spisovatele k bojkotu technologie, kterou již používá 200 milionů lidí, není seriózní odpovědí. Je to velmi výmluvné gesto.
Gesta nechrání to, co milujete. To dokáže jen aktivní zapojení.
Příběhy, které stojí za to vyprávět – o tom, kým jsme, čím jsme prošli, co jsme se naučili – ty jsou stále naše. Otázkou je, zda se pustíme do práce a přineseme je světu, s využitím všech nástrojů, které máme k dispozici.
Já to hodlám udělat.
Konzervativní noviny nabízejí všechny články zdarma. Náš provoz se však neobejde bez nezbytné finanční podpory. Pokud se Vám Konzervativní noviny líbí, budeme vděčni za Vaši pomoc. Číslo účtu: 2701544173 / 2010. Děkujeme!
