Týždeň, v ktorom sme zistili, že o emóciách AI nevieme nič a o ekonomike ešte menej
Dva týždne dozadu sme tu písali o tom, ako sa kapitál valí do AI rýchlejšie, než stíhame overovať, čo z toho funguje. Tento týždeň sa ukázalo, že ten istý problém má aj druhú stranu: nevieme ani poriadne pomenovať, čo tie systémy vlastne sú. Anthropic tvrdí, že našiel v Claudeovi emócie.
Toto nie je týždeň jednej témy. Je to týždeň, v ktorom sa tri rôzne svety - výskum AI, makroekonómia a kultúrna antropológia - začali rozprávať o tom istom, len každý inou rečou.
Emócie v stroji: funkčné, alebo skutočné?
Podľa spoločnosti Anthropic vykazuje ich model Claude známky emócií - radosť, hnev, strach. Výskumníci použili metódu, ktorú nazývajú "AI neuroveda", a objavili v modeli vnútorný priestor, ktorý nazvali "JS space" - akýsi tichý zápisník, kde model spracúva informácie predtým, než odpovie. Experimenty s týmto priestorom menili správanie modelu spôsobom, ktorý podľa nich pripomína emócie.
Tu treba byť opatrný. Tvrdenie "AI má emócie" znie senzačne, ale výskum hovorí niečo užšie: v modeli existujú vnútorné stavy, ktoré korelujú so správaním, ktoré by sme u človeka nazvali emocionálnym. To je oveľa slabšie tvrdenie než "AI cíti".
Zároveň existuje aj druhý pohľad, a nie je okrajový. Sabine Hossenfelder upozorňuje, že podobné experimenty s modelom LLAMA naznačujú niečo iné: že modely môžu vykazovať známky vedomia už počas tréningu, nie až po ňom. Ak je to pravda, otvára to etické otázky, na ktoré nemáme rámec. Brian Keating, Emad Mostaque a Roman Yampolskiy diskutovali o tom, či súčasné "sandboxovanie" AI nie je forma väzenia. To znie ako sci-fi, ale je to presne ten typ otázky, ktorú si raz budeme musieť položiť - buď preto, že AI naozaj cíti, alebo preto, že sme sa naučili správať k nástrojom tak, že to nevieme rozlíšiť.
Mám pocit, že tu je dôležitejšia iná vec: firmy ako Anthropic majú ekonomický záujem prezentovať svoje modely ako vyspelejšie, než sú. To neznamená, že klamú. Znamená to, že ich zistenia treba čítať s touto optikou.
Ekonomika na rozcestí: AI bublina alebo reálna transformácia?
Investície do AI infraštruktúry - hlavne dátových centier - dosahujú podľa odhadov 5 biliónov dolárov do roku 2030. Veľká časť sa financuje dlhom. A tu sa láme chlieb.
Fed v posledných rokoch zvyšoval úrokové sadzby, aby skrotil infláciu. Historicky po takom cykle prichádza recesia s vysokou pravdepodobnosťou. Ak k tomu pripočítate rastúce náklady na obsluhu dlhu v AI sektore, dostanete kombináciu, ktorá vyzerá ako dot-com bublina alebo subprime - aspoň to tvrdia Steve Eisman (áno, ten z Big Short) a George Noble.
Lenže pozor: Eisman a Noble sú investori, ktorí zarábajú na tom, keď sa trh prepadne. To neznamená, že sa mýlia. Znamená to, že ich tvrdenia treba čítať ako tvrdenia zainteresovanej strany.
Na druhej strane stojí tábor, ktorý hovorí, že AI je reálna technologická zmena a investície sú opodstatnené. Argument: na rozdiel od dot-com éry majú dnes firmy ako Nvidia, Microsoft a Google reálne príjmy a reálnych zákazníkov. To je pravda. Lenže reálne príjmy dnes nehovoria nič o tom, či sú udržateľné o päť rokov.
Ako sme písali v AI, Geopolitika a Trendy v Technológii, technologické zmeny sa dejú rýchlejšie než schopnosť regulovať ich dôsledky. Ekonomický rozmer tohto problému je len ďalšia vrstva.
Keď sa pýtame, či je AI bublina, pýtame sa zle. Správna otázka znie: ktorá časť AI je bublina a ktorá je základ novej ekonomiky? Odpoveď nevieme - a ktokoľvek tvrdí, že vie, buď predáva, alebo sa bojí.
Pre slovenského čitateľa to má konkrétny presah: ak sa AI investície naozaj prehrejú a prasknú, dopadne to na globálne trhy, na dôchodkové fondy, na ceny energií. A Dátové centrá a slovenská sieť: Hrozí kolaps? - otázka, ktorú sme otvárali - je presne o tom, ako sa globálne investície prejavia v lokálnej infraštruktúre.
Silicon Valley ako kult: optimalizácia všetkého
Taylor Lorenz vo videu o konferencii Manifest v Berkeley opisuje svet, kde sa technologickí giganti nezameriavajú len na produkty, ale na filozofiu - optimalizáciu od AI cez politiku až po randenie a reprodukciu. Konferencia sa tvári ako trh s predikciami, ale v skutočnosti je oknom do ideológie, ktorá v Silicon Valley získava čoraz väčší vplyv. Padajú tam slová ako eugenika a experimentovanie s ľudskou reprodukciou.
Toto je téma, kde sa ľahko skĺzne k moralizovaniu. Skúsme to inak. Ak existuje skupina ľudí s obrovským kapitálom a technologickou mocou, ktorá verí, že svet sa dá "optimalizovať", potom je legitímne pýtať sa: optimalizovať pre koho? A kto nesie náklady, keď optimalizácia zlyhá?
Zároveň je fér priznať, že veľká časť toho, čo Silicon Valley robí, funguje. Internet, smartfóny, cloud - to všetko vyšlo z podobnej kultúry. Kritika "tech kultu" je oprávnená, ale nesmie sa zvrtnúť na odmietanie technológie ako takej.
Kultúra ako zrkadlo: čo nám hovoria dejiny
Možno najzaujímavejšie na tomto týždni je, koľko zdrojov sa venovalo histórii - a to nie náhodou.
Michal Kšiňan rozoberá, ako sa menili sochy na Štúrovom námestí v Bratislave: Mária Terézia, potom Štefánik, potom replika s Pittsburskou dohodou, ktorú Štefánik nikdy formálne nepodpísal. Ten istý priestor, tri rôzne príbehy o tom, kto sme. Dokument o heavymetale za železnou oponou ukazuje, ako sa západná hudba predierala na východ cez pašované platne a nahrávky na röntgenových snímkach. A Veritasium pripomína Enigmu a tím v Bletchley Parku - matematikov, šachistov a lingvistov, ktorí zmenili priebeh vojny.
Prečo to spomínam v sumári o AI a ekonomike? Lebo tieto príbehy hovoria to isté, čo Anthropic a Eisman, len inou rečou: technológia mení spoločnosť, ale vždy cez kultúru, ktorá ju používa. Enigma nebola len stroj. Bola to predstava o tom, čo je bezpečné. Heavy metal nebol len hudba. Bol to spôsob, ako si v totalite zachovať vlastnú identitu.
Ak dnes hovoríme o AI ako o neutrálnom nástroji, opakujeme tú istú chybu, akú robili tí, ktorí si mysleli, že Enigmu nemožno prelomiť.
Čo si z toho odniesť
Tento týždeň nepriniesol jednu veľkú správu. Priniesol tri menšie, ktoré spolu súvisia spôsobom, ktorý nie je na prvý pohľad viditeľný.
Prvá: o vnútornom živote AI nevieme takmer nič, ale už teraz sa tvárime, že vieme. Druhá: ekonomika, ktorá má AI živiť, môže byť prehriata - alebo nemusí, a kto tvrdí jedno alebo druhé s istotou, zvyčajne niečo predáva. Tretia: kultúra, ktorá AI rámuje, sa čoraz viac podobá na ideológiu, a to je vždy signál na opatrnosť.
Osobne ma najviac znepokojuje nie to, čo AI dokáže. Skôr to, ako rýchlo sme ochotní prijať akýkoľvek jej popis - od "cíti" po "zničí nás" - bez toho, aby sme trvali na dôkazoch. Mimoriadne tvrdenia vyžadujú mimoriadne dôkazy. Tento týždeň ich nepriniesol. Priniesol len ďalšiu vrstvu otázok.
A možno je to tak správne.
Súvisiace články
Komentáre ()