napsal G
Vlkův úvod:
Když jsem nedávno kosířské publikum vyzval, aby mi pomohlo v otázce, co dál s Kosou, dorazila spousta mailů. Různých. Všechny jsem poctivě přečetl. Ale jeden z nich pokládám za zcela vyjímečný. Ozval se mi specialista na AI G, který navrhnul postavit pro Kosu agenta na bází AI, který by převzal značnou část práce a časem se třeba dokonce naučil psát vlčím stylem. Přiznávám, že mne to dostalo. Spíše škovalo. Protože to bylo myšleno zcela vážně. Takové prý už jsou dnes možnosti AI… Kde budou za tři nebo 5 let???
Nepůjdu touto cestou. Myslím, že mám vymyšleno, komu Kosu svěřím, aby ji nějak vedli dál. Ano, jsou dva – Jana a Martin. Doladím technikálie a bude. Pokud jejich zájem vydrží. Ale o tomhle tenhle dnešní text nebude.
Když už jsem se s G do kontaktu dostal, požádal jsem jej, jako znalce a velmi pokročilého uživatele AI, aby o ní něco pro Kosu napsal. Protože Kosa se tomuto fenomenu zásadně vyhýbá. Jak by ne, když o problematice skoro nic nevím? A to čemu nerozumím, nekomentuji.
G mé žádosti vyhověl a tady je jeho text:
AI: Osobné skúsenosti a vyhliadky
Môj prvý kontakt s AI v dnešnej podobe začal, ako asi aj u väčšiny ľudí, v roku 2022 keď vyšla prvá verejná verzia ChatGPT. Dodnes si pamätám, ako sme s kolegami skúšali rôzne zadania a dávali jej drobné úlohy. Potom jeden z nás navrhol trochu pritvrdiť a zadali sme otázku, ako sa v Spring Boot (veľký programovací framework pre jazyk Java) pripojiť k databáze. S predpokladom, že toto chat určite nezodpovie. Následne sme sa zmohli len na tiché nadávky a nemé čumenie na monitor, keď na ňom začali nabiehať riadky kódu doplnené slovným komentárom podrobného postupu.
Odvtedy pretieklo veľa vody a dnes prakticky niet človeka, ktorý by s AI nemal skúsenosť. Keď som videl, aký je trend, začal som sa ako už skúsený programátor zaujímať, čo sa deje v črevách takého systému, začal som si sťahovať materiály, knihy a som jeden z tých, ktorí si skúsili nejaké základy naprogramovať aj vlastnoručne.
Ak nepracujete v technickej oblasti ako IT, alebo ste neštudovali na matfyze ako ja, budem vás teraz možno nudiť trochou technických detailov. Prosím ale o trpezlivosť, prebehnem iba z rýchlika základné myšlienky, potom ukážem dnešný stav z praxe a napokon sa dostanem aj k iným aplikáciám, ktoré sú uplatniteľné viac všeobecne.
Čo je vo vnútri: strojové učenie (Machine Learning – ML) a neurón
Ak chcete začať pracovať s AI od základov, rýchlo sa zorientujete, že musíte začať o úroveň nižšie ako sú dnešné neurónové siete. Ich princípy sa totiž rozvíjali v období cca. 10-15 rokov pred ChatGPT v oblasti, ktorej sa hovorí strojové učenie (ML). Naučil som sa teda etablovaný programovací jazyk Python, posťahoval potrebný softvér (Anaconda, Jupyter notebook) a začal sa hrať s dátovou analytikou.
Princíp je pomerne jednoduchý: Dodáte počítaču dáta (vo všeobecnosti čím viac, tým lepšie) z nejakej oblasti, ktorú skúmate a snažíte sa nájsť takú matematickú funkciu alebo také štatistické vyjadrenie, ktoré vystihne základný trend, charakteristiku týchto dát. Chcete to dosiahnuť tak dobre, aby bolo možné predpovedať sledovanú premennú na základe nejakej množiny iných premenných.
Existujú dva základné prístupy: regresia a klasifikácia. Regresia odhaduje jednu sledovanú vlastnosť objektov (položiek) na základe množiny jej iných vlastností. Klasifikácia zasa zatrieďuje objekt do triedy (kategórie) podľa jeho vlastností.
V praxi: chcete odhadnúť ocenenie bytov v nejakej štvrti. Zozbierate údaje čo najviac bytov a zaznačíte si všetky možné ich vlastnosti (výmera, počet izieb, balkón – áno/nie, pivnica áno/nie, parkovanie miesto áno/nie, vzdialenosť obchodu alebo služieb…) pre byty so známou cenou a následne chcete stanoviť rozumnú cenu akéhokoľvek bytu na základe týchto vlastností. Všetky vlastnosti, ktoré nie sú čísla, prehodíte na čísla. Potom zapíšete rovnicu závislosti ceny od týchto čísel (lineárnu, kvadratickú…) a hľadáte parametre, pri ktorých sa vaša rovnica (krivka, model) približuje skutočnej závislosti, ktorú poznáte z dát bytov so známymi cenami. Keď sa priblížite dostatočne blízko, máte výsledný model – naučili ste svoj počítač odhadovať ceny bytov.
Na to ste použili matematické metódy, ktoré poznajú absolventi bakalárskeho stupňa technický odborov – derivácie, maticový počet, pravdepodobnosť.
Po osvojení základov ML celí nadšení prechádzate ku tzv. Deep Learning – hlbokému učeniu. Pojem je odvodený od „hĺbky“ neurónovej siete, ktorou sa rozumie počet neurónových vrstiev. Do teórie neurónových sietí sa púšťať nejdem, pristavím sa len pri pojme „neurón.“ V skutočnosti ide len o virtuálny objekt vytvorený v počítačovom jazyku, ktorý má iba dve charakteristiky: aktivačná funkcia a váha. Neurón dostáva na vstupe číselné dáta, prepočíta ich aktivačnou funkciou a vráti jej výstup. Po niekoľkých cykloch prechodu od vstupnej vrstvy po výstupnú a zasa späť (tzv. spätná propagácia) začne sieť vracať dostatočne uspokojivý výsledok (učenie prebehlo) a finálna hodnota, ktorá sa mu priradí, je jeho váha. Neurónová sieť je teda jeden veľký matematický konštrukt a naučené váhy všetkých neurónov v ňom sa uložia a tvoria model skúmaného javu. Ak bola sieť trénovaná na jazyku a textových vstupoch, ide o jazykový model. Dnešné GPT, Claude, Gemini, DeepSeek, Grok preto voláme veľké jazykové modely (LLM).
Tu ako laik pokúšajúci sa o prenik do technológie asi narazíte, ak teda nie ste veľmi odhodlaní venovať takému štúdiu roky. Architektúr neurónových sietí je totiž mnoho a na každý typ úlohy sa hodí iná. S rastúcou štruktúrou sietí sa stupňuje aj matematika, ktorá je za ňou. A na riešenie akejkoľvek praktickej úlohy už potrebuje solídny výpočtový výkon.
Narazil som aj ja a to práve v čase, kedy sa v oblasti AI zmenila paradigma: ešte do minulého roka sa LLM používali hlavne ako chat. Postupne sa však zlepšovali nástroje, ktoré umožnili, aby modely samostatne plnili ucelené úlohy a novým trendom sa stala agentická AI.
Vtedy som pochopil, že pokúšať sa dohnať vlak z pozície jednotlivca, ktorý si doma kutí hračkárske modely, je nezmysel. Všetko, čo by som mohol naprogramovať, už za mňa urobí niektorý veľký model a to lepšie a rýchlejšie.
AI transformácia v IT firme
Toto bol zároveň čas, kedy si nové trendy všimlo aj vedenie našej IT firmy. Ide o firmu strednej veľkosti, pôsobiacu v ČR aj SR. A začali sa diať veci.
Vznikol plán, počas ktorého sa má v priebehu cca. 1 roka pretransformovať celá práca pomocou AI nástrojov a agentov. Vznikli cross-divízne pracovné skupiny rozdelené po odvetviach (vývoj, analýza, testing, management), ktorých členovia dostali komerčné (ChatGPT, Claude, MS Copilot) licencie a mali zaviesť do praxe nové nástroje, pracovné postupy a následne ich rozšíriť medzi svojich kolegov. Do takej skupiny pre testing som bol zaradený aj ja.
Po zoznámení a prvotných zmätkoch, spôsobených nesprávnym typom zakúpenej firemnej licencie (tzv. token based – predplatený pevný mesačný limit tokenov, ktorý sa rýchlo minul) sa zaviedol spoločný nástroj Playwright, ktorý je dnešným štandardom pre testovanie webu a náplň skupiny sa ustálila na prezentáciách toho, čo ten-ktorý tím v rámci firmy zaviedol, aké nápady mala a čo sa im podarilo pomocou novej technológie vylepšiť.
Ja som zo začiatku patril medzi najväčších odporcov tejto premeny. Dôvodom bolo, že miesto veľkej otvorenej platformy (.NET, Java, Python), na akých pracovali ostatní, naša divízia robí nad uzavretým ekosystémom veľkého produktu istého rakúskeho výrobcu, ktorý má prakticky na všetko nástroje vlastné. Používateľom toho testovacieho som bol na Slovensku iba ja, a zároveň išlo o nástroj pomerne jednoduchý a efektívny. Nemám rád zmeny a tejto kombinácie, ktorá zabezpečovala stabilnú a pohodlnú prácu, sa mi nechcelo vzdať.
AI transformácia totiž u mňa znamenala radikálnu zmenu – preklopenie množstva existujúcej práce, nahromadenej za viac ako 4 roky, do novej technológie. Na celú úlohu som bol sám, čo moju výhodu premenilo na nepríjemnosť. Veci komplikovala aj nepodarená licencia, ktorá mi síce pomáhala s tvorbou zdrojových kódov, ale na to, aby za mňa vykonávala celé testy (čo bol cieľ) nestačila.
Situácia sa dramaticky zmenila v lete. Po nezhodách s rakúskym dodávateľom ohľadom cien licencií sa firma rozhodla zvážiť vytvorenie vlastného produktu od nuly, aby bolo niečo v zálohe. Do toho sa vložil CEO osobne, ktorý patrí medzi najväčších AI nadšencov a v záujme rýchleho vytvorenia tohto produktu nám umožnil nákup nových licencií Anthropic Claude Premium, ktoré majú oproti štandardným (Pro) 5x vyššie limity. To ma raketovo vyštartovalo a tam, kde som doteraz za ostatnými zaostával, som ich začal svižne dobiehať. Vtedy sa zároveň začal meniť môj prvotne skeptický prístup tiež smerom k nadšeniu.
Moja pôvodná predstava bola totiž, že AI trochu pomôže s ladením testov, a ak budeme mať šťastie, nejaké dokáže vytvárať aj samostatne zo slovného zadania, čo je svätý grál automatizácie. S týmto totiž dokáže nejaký použiteľný výsledok dodať aj človek, ktorý nemá predchádzajúce skúsenosti s programovaním. Vôbec. Experta zatiaľ nenahradí, ale priemerného programátora pohodlne a ešte bude aj rýchlejší.
To sa nielen potvrdilo. Schopnosti AI, ako som čoskoro zistil, ďaleko presahujú aj moje najoptimistickejšie očakávania.
Nižšie zhŕňam, čo som pomocou tohto zázraku zrealizoval sám za posledné cca. 2 mesiace:
Znalostná báza
Náš softvérový produkt sa vyvíja už takmer 20 rokov. Začal v malej firme rodinného charakteru, ktorá po adaptácii produktu veľkou časťou slovenskej verejnej správy prudko narástla na stredne veľkú firmu. Tento nárast ale nezachytila optimálne a výsledkom bolo, že znalosti, ktoré prvá programátori zapracovali, ostali len u nich bez akejkoľvek dokumentácie alebo iného zdroja informácií, kde by si akýkoľvek iný pracovník vedel niečo dohľadať. Zdieľanie od človeka k človeku samozrejme zlyhalo. Preto sme sa dlhé roky trápili s tým, že niektoré funkcie udržiavame naslepo. Ako jeden z najväčších kritikov tohto stavu, ktorý sa ako jeden z mála pokúšal o tvorbu aspoň akej-takej dokumentácie, som si takúto príležitosť nemohol nechať ujsť.
Poskytol som AI zdrojové kódy na jednej strane a existujúce testy, ktoré zachytávajú používateľské procesy, na strane druhej a nechal som ju spracovať celý produkt tak, aby nad ním vznikol chat. Čo znamená, aby bolo možné sa slovne pýtať na detaily a on vám neznámu informáciu priamo poskytol. Po cca. 40 hod intenzívnej, ale až na drobné usmernenia samostatnej práce vyhodil Claude funkčný výsledok. Dnes dokáže nielen odpovedať na otázky, ale aj analyzovať kód v súvislostiach, hľadať chyby a nedostatky, samostatne navrhovať zmeny, opravy a testy, pamätá si zavedené postupy z našej práce… Skrátka, pokročilý IT architekt v kocke. To, na čo si nikto netrúfol 15 rokov, vyrobila AI za pár dní! Ak ste si niečím podobným neprešli, iba ťažko doceníte váhu takého výsledku. Vitajte v krajine OZ.
Plne automatizované testy
Od ustálenej série testov používateľského rozhrania (UI) teraz máme nástroj, ktorý generuje UI testy aj integračné testy samostatne podľa toho, čo priebežne chodí nahlásené ako chyby alebo požiadavky. Naučili sme ho základné postupy a AI ich teraz kombinuje ako lego do celkov. Pritom dáva vlastné podnety a postrehy, dokonca odhaľuje nesúvisiace chyby. Väčšinou sa nemýli. Ku zložitejším navrhuje rovno opravu; buď v analytickej podobe, alebo rovno do kódu.
Okrem toho som vyrobil ešte zopár menších, ale užitočných pomôcok a ďalšie čoskoro pribudnú. Licencie medzičasom dostali aj kolegovia. Manuálna testerka si z tej svojej vyrobila osobnosť, s ktorou si popri práci veselo chatujú a skladajú komplimenty 😊
Moja práca sa po 12-ročnej rutine za pár mesiacov premenila z programovania na stráženie niekoľkých paralelne bežiacich agentov. Akékoľvek iné slovo než revolúcia by bolo silným podhodnotením.
Budúcnosť IT
Keď AI automatizuje skoro všetky činnosti a tým šetrí 80-90 % času, otvára sa otázka, ako sa to prejaví na obsadení celého IT sektora. Základné scenáre sú zhruba nasledovné:
softvér zlacnie alebo narastie dopyt, biznis IT firiem sa približne zachová, len ho bude väčší objem, ľudia budú riadiť agentov
core biznis sa zásadne nezmení, ale firmy si všimnú že jeden človek teraz pracuje za troch-štyroch a pracovné miesta sa budú redukovať
Čo z toho bude nevie dnes asi nikto. Ukážu možno najbližšie roky.
Výsledky v iných oblastiach
Keďže dnešná AI sú predovšetkým modely jazykové, vyskúšal som aj jej jazykové schopnosti. Dlhé roky ma zaujímalo dielo jedného filozofického autora z prelomu 19. a 20. storočia, po ktorom ostal rozsiahly súbor spisov (celkom takmer 20 miliónov slov), z toho niekoľko desiatok vlastných spisov a zvyšok množstvo stenograficky zaznamenaných prednášok. Vyznať sa v takom objeme materiálov, ktoré síce používajú rovnaké a podobné pojmy, ale rozvíjajú ich v rôznom poradí (ktoré ako laik nepoznáte) je pomerne náročné. Chýbala mi preto systematizácia takého diela.
Tak som ho celé stiahol offline (po častiach v 3 jazykoch – SK, CZ, DE), vysvetlil Claudovi svoj zámer a začal spracovávať. Tu som vzhľadom na obrovský rozsah narazil na limity spotreby, ale už po spracovaní cca. 7 % celého korpusu vznikla databáza s fulltext-ovým vyhľadávaním a chat, ktorý dokáže odpovedať na základné otázky. K tomu slovník a základy pojmovej mapy.
Ak by bola dokončená celá úloha takého rozsahu pre dielo nejakého významnejšieho autora alebo celý myšlienkový smer, tak by dosiahla rozsah, ktorý by snáď „v starých časoch“ niekomu stačil aj na docentúru.
Vedecká práca a spracovanie dát
Pred svojou IT kariérou som chvíľu pôsobil ako učiteľ. Nedávno sme sa stretli s jedným z bývalých žiakov, ktorý je teraz doktorandom na STU. Venuje sa palivovým článkom. S mojím zázemím z fyziky sme ľahko našli spoločnú reč a navrhol som mu, či nechce vyskúšať nejakú časť spracovania pomocou najnovšieho AI modelu. Dohodli sme sa na „AI party“ a nechali sme Clauda spracovať jedno meranie, kde chýbalo pár údajov, či ich dokáže pomocou nejakých štatistických metód odhadnúť a vyrobiť finálny graf. Dokázal – približne za hodinu, po pár doplneniach, aplikoval štatistické postupy, ktoré ani jeden z nás nepoznal, vyrobil skripty, vykonal výpočty a vrátil viac než uspokojivý obrázok. Popri tom priebežne vypisoval rôzne múdrosti o samotnom meraní, ktoré mne veľa nehovorili, ale podľa spokojného pritakávania mladého vedca usudzujem, že správne.
Čo radím
Všetkým, ktorí ešte nemali možnosť pracovať s platenou licenciou AI, vrelo odporúčam si to aspoň raz vyskúšať. Inak si vôbec nemusíte uvedomiť, aká revolúcia okolo vás prebieha. Zabudnite na chaty! Tie sú prekonané, vyskúšajte si vlastného agenta na nejakú jednoduchšiu úlohu. Chápem, ak sa vám nechce platiť za niečo, na čo možno nemáte poriadne využitie, ale ak máte možnosť, obetujte tých 20€ raz. Ak máte prácu technického typu, využitie nájdete veľmi ľahko. Ak pracuje s číslami (účtovníctvo, financie), taktiež. Píšete alebo čítate veľa textov? Ideálna úloha pre jazykový model. Máte radi prehľad tlače? Agent to rieši! A že vás stále nič nenapadá? Nechajte si vytvoriť hru! Primitívnu klikačku to hravo zvládne. Alebo si nájdite tipy na internete, určite sa ich tam povaľuje plno.
Čo na záver
Je AI užitočná?
Áno, extrémne. Valcuje všetko od rutinnej práce až po vedeckú. Matematika, dátová analýza, návrh nových liekov a molekúl, technických prvkov. Zatiaľ som hádam nenarazil na úlohu, ktorú je možné vykonať na počítačoch a ktorú by nezvládla. Často (väčšinou?) lepšie ako človek.
Je AI nebezpečná?
Áno, extrémne. Ak by niekto (diktátor so štátnym zázemím, tajná služba, alebo najpravdepodobnejšie – skupina hackerov) ovládol kapacity jediného moderného dátového centra, v ktorom beží niekoľko desiatok inštancií súčasného vrcholového modelu a vyrobil pár desiatok tisíc agentov, pričom by dokázal obísť ich bezpečnostné limity a dal jediné zadanie – maximalizovať škody, jediná otázka je, s akou veľkou časťou kritickej infraštruktúry a bežných služieb by sme sa museli rozlúčiť a na ako dlho. Toto je dosiahnuteľné už dnes. O únikov agentov z testovacích prostredí priamo vo firmách, ktoré ich vyvíjajú, nehovoriac.
Možno sme v bode, alebo sa mu určite blížime, kedy osud civilizácie už nebude priamo závislý od rozhodnutia živého človeka, alebo aspoň nad ním nebude držať rozhodujúcu kontrolu. Idea filmu Terminátor je tak dnes prakticky realitou.
