Keď rôzne myšlienky začnú končiť v rovnakých vetách
Keď viacerí ľudia nezávisle skončia pri tej istej vete, neopakuje sa už len forma. Opakuje sa abstrakcia. Esej o tom, čo sa deje s myslením, keď väčšina z nás začne kompilovať svoje neurčité intuície cez tie isté jazykové modely.
V poslednom čase si všímam jednu zvláštnu vec. Môže ísť o banálnu náhodu, o konfirmačný bias, alebo jednoducho o to, že veľa ľudí súčasne premýšľa nad rovnakými technologickými zmenami. Zároveň môže ísť o prvý viditeľný prejav čohosi oveľa zaujímavejšieho. Nejde pritom o klasický AI-generovaný jazyk, ktorý už poznáme takmer všetci. Po niekoľkých rokoch s jazykovými modelmi sa ich typické konštrukcie stali natoľko rozpoznateľné, že človek často nemusí vedieť nič o autorovi textu a napriek tomu intuitívne cíti, že medzi ním a výslednou vetou niekde sedel ChatGPT, Claude alebo iný podobný systém. Rovnaké rytmy, rovnaké kontrasty, rovnaké prechody medzi odstavcami, rovnaká mierne prehnaná čistota argumentu. A predovšetkým určitý druh jazykovej uhladenosti, pri ktorej nič nie je vyslovene zlé, no v texte chýba to lokálne poškodenie typické pre človeka, ktorý jazyk skladá sám.
Igor Šovčík
Anglický preklad
Na tom nie je nič obzvlášť prekvapivé. Jazyk vždy produkoval šablóny a ľudia ich od seba kopírovali dávno pred vznikom neurónových sietí. Akademici majú vlastnú syntax, právnici vlastnú, novinári vlastnú. Korporátna komunikácia dokáže z ľudí na opačných stranách planéty vyrobiť takmer nerozoznateľné organizmy hovoriace o synergiách, transformáciách a strategických prioritách. Každé médium navyše deformuje obsah do formy, ktorú dokáže efektívne prenášať. To, že jazykové modely vytvárajú rozpoznateľný spôsob písania, je preto skôr pokračovaním starého procesu než začiatkom niečoho úplne nového.
To, čo ma zaujalo, je však posun o jednu úroveň vyššie. Začal som si všímať prípady, keď sa neopakuje iba vetná skladba, rytmus alebo rétorická konštrukcia, ale celé syntetické tvrdenie. Veta, ktorá už nie je prázdnou jazykovou nádobou, ale relatívne komplexným informačným objektom s konkrétnou interpretáciou reality.
Nedávno som písal príspevok do diskusie o dôsledkoch lacnej umelej inteligencie. Zámer som mal pomerne jasný, vedel som približne, čo sa snažím povedať, no formulácia bola neobratná. Urobil som to, čo dnes robíme čoraz častejšie. Nechal som svojho agenta text upraviť. V jednej pasáži moju myšlienku skompiloval do vety, ktorá znela približne takto: "Keď inteligencia zlacnie, pýtajme sa, čo zostane vzácne.".
Tá veta mi utkvela v pamäti, pretože bola dobrá. Nebola iba štylisticky čistá. Bola informačne hustá. V niekoľkých slovách pomenovala celý ekonomický mechanizmus, nad ktorým som premýšľal: ak sa schopnosť, ktorá bola historicky vzácna a drahá, stane lacným a prakticky neobmedzeným vstupom, centrum ekonomickej hodnoty sa presunie ku komplementárnym zdrojom, ktoré zostávajú vzácne. Tá veta teda nebola len spôsob, ako niečo povedať. Obsahovala výber relevantnej premennej, implicitný kauzálny model, ekonomickú hypotézu aj návod, ktorým smerom pokračovať v ďalšom uvažovaní.
O niekoľko dní som veľmi podobnú formuláciu uvidel u niekoho iného. Potom znova. Iný človek, iný kontext, iný jazyk, iný kontinent, žiadna zjavná väzba medzi autormi. Samozrejme, stále môže ísť o obyčajnú náhodu. Možno sa rovnaká myšlienka prirodzene ponúka každému, kto dostatočne dlho premýšľa nad ekonomickými dôsledkami AI, a možno som si ju po vlastnej skúsenosti začal iba viac všímať. Celý tento článok tak môže byť elegantnou racionalizáciou frekvenčného klamu.
Lenže zaujímavé je, čo presne sa v takom prípade opakuje. Ak dvaja ľudia nezávisle použijú formuláciu "nejde o X, ale o Y", nič významné sa nestalo. Je to rétorická šablóna, ktorá existovala stáročia pred vznikom počítačov. Ak však dvaja ľudia nezávisle skončia pri tvrdení, že vo svete lacnej inteligencie sa musíme pýtať, čo zostane vzácne, už sa neopakuje iba forma. Opakuje sa abstrakcia. A abstrakcia je oveľa zaujímavejší artefakt než syntax.
Jazyk ako posledná fáza myslenia
Máme tendenciu predstavovať si myslenie a jazyk ako dve oddelené vrstvy. Najprv človek vytvorí hotovú myšlienku a potom ju už iba preloží do slov. V praxi však veľká časť myslenia pred formuláciou neexistuje ako čistý logický objekt čakajúci na export. Existuje skôr ako neurčitá zmes asociácií, pocitov, obrazov, skúseností, čiastočne pochopených kauzálnych vzťahov a niekoľkých slov, ktoré sa okolo celého problému pohybujú bez toho, aby sme presne vedeli, ako spolu súvisia.
Často máme pocit, že niečomu rozumieme, až kým sa to nepokúsime vysvetliť.
Práve formulácia nás núti určiť, čo je príčina, čo následok, ktoré dve veci spolu skutočne súvisia, čo je iba metafora a kde sa nachádza jadro argumentu. Každý, kto niekedy písal dlhší text o niečom, čomu sa snažil skutočne porozumieť, pozná situáciu, keď začne odsek s jednou predstavou a skončí ho s trochu inou, pretože pri hľadaní správnej vety narazil na rozpor, ktorý si predtým neuvedomoval, alebo naopak našiel pojem, ktorý mu umožnil spojiť dve dovtedy oddelené časti problému.
Písanie teda nie je iba export myslenia. Je jedným z procesov, ktorými sa myslenie vytvára.
A práve do tohto procesu dnes vstupujú jazykové modely.
Keď modelu zadám "uprav mi to", "sformuluj pointu", "sprav z toho jasnejší argument" alebo "čo sa tým vlastne snažím povedať?", neodovzdávam mu iba korektúru hotovej myšlienky. Odovzdávam mu časť procesu, ktorým sa nejasná mentálna reprezentácia mení na explicitné tvrdenie.
Preto mi tu veľmi dobre sedí slovo kompilácia.
Na vstupe je niečo nepresné, osobné, redundantné a do určitej miery nekompatibilné s mysľou druhého človeka. Na výstupe vznikne čistý, prenositeľný informačný objekt, ktorý možno vložiť do článku, diskusie, prezentácie alebo ďalšieho promptu.
Z pohľadu jednotlivca je to fantastický nástroj. Agent často dokáže pomenovať presne to, čo som sa pokúšal povedať, iba rýchlejšie, jasnejšie a s menším množstvom zbytočného šumu. Problém, ak vôbec existuje, preto nezačína na úrovni jedného človeka. Zaujímavý sa stáva až v momente, keď rovnaký mechanizmus používa veľká časť populácie.
Do systému vstupujú miliardy mierne odlišných intuícií. Otázkou je, koľko skutočne odlišných abstrakcií z neho vychádza.
Obrovská kompresia ľudského textu
Jazykové modely možno zjednodušene chápať aj ako mimoriadne zvláštny druh kompresie obrovskej časti ľudského textového korpusu. Nejde o kompresiu v banálnom zmysle databázy, ktorá by si pamätala všetky dokumenty a následne z nich vyťahovala vhodné odseky. Ide o kompresiu štatistických vzťahov: aké slová, koncepty, argumentačné štruktúry, metafory a reprezentácie sveta spolu v ľudskom texte súviseli a aké pokračovania sa v určitom kontexte ukazovali ako pravdepodobné.
Do parametrov modelu sa tak skomprimovala veľká časť štruktúry toho, ako ľudia opisovali svet. Nedokonalým, ale prakticky mimoriadne účinným spôsobom.
Keď následne model dostane neurčitú myšlienku a požiadavku, aby ju formuloval lepšie, nemusí iba hľadať vhodnejšie synonymá. Môže rekonštruovať jednu z abstrakcií, ktoré sa v tomto skomprimovanom priestore nachádzajú ako mimoriadne prirodzené riešenia daného problému.
A tým vznikajú atraktory.
Predstavme si tisíc ľudí, ktorí premýšľajú nad mierne odlišnými variantmi rovnakého javu. Jeden sa pozerá na AI cez produktivitu, druhý cez cenu práce, tretí cez vzácnosť expertov, štvrtý cez ekonomiku výrobných faktorov a piaty iba intuitívne cíti, že ak bude možné generovať neobmedzené množstvo "myslenia", hodnota sa musí presunúť niekam inam. Ich vnútorné reprezentácie nie sú identické, ale všetky sa nachádzajú v podobnej oblasti konceptuálneho priestoru.
Ak by každý z nich musel svoju predstavu sám niekoľko hodín pretláčať do jazyka, vzniklo by množstvo odlišných metafor, rôznych kategorizácií a veľa zlých viet. Niekto by problém opísal cez energiu, niekto cez ekonomiku pozornosti, ďalší cez kapitál. Niekto by vytvoril úplne nesprávnu analógiu a možno by práve vďaka nej prišiel k formulácii, ktorá predtým neexistovala.
Ak všetkých tisíc ľudí požiada niekoľko veľmi podobných modelov, aby ich nejasnú predstavu "sformulovali čo najlepšie", množstvo týchto trajektórií môže skončiť v rovnakom lokálnom minime.
Keď inteligencia zlacnie, pýtajme sa, čo zostane vzácne.
Model túto vetu nemusí nikde nájsť a skopírovať. Ide o veľmi kompaktnú a pravdepodobnú reprezentáciu určitého typu problému. Obrovský ľudský textový korpus obsahoval milióny argumentov o komplementárnych zdrojoch, technologickej substitúcii, vzácnosti, produktivite, kapitále a ekonomických zmenách. Model túto štruktúru skomprimoval a pri vhodnom vstupe z nej dokáže rekonštruovať syntetické tvrdenie, ku ktorému by sa nezávisle dopracovalo mnoho rôznych používateľov.
Ak je táto interpretácia správna, to, čo pozorujeme, nemusí byť kopírovanie viet.
Môže to byť konvergencia na rovnaké komprimované reprezentácie.
Čím lepší model, tým hlbší atraktor
Tu sa objavuje nepríjemný paradox. Intuitívne by sme čakali, že čím budú modely väčšie a inteligentnejšie, tým budú ich výstupy rozmanitejšie, pretože dokážu reprezentovať viac konceptov, viac štýlov a viac interpretácií. Do istej miery je to pravda. Väčší model má k dispozícii širší priestor potenciálnych odpovedí a pri explicitnej požiadavke na diverzitu vytvorí oveľa viac zmysluplných alternatív.
Lenže väčšina ľudí od svojho agenta nežiada maximálnu konceptuálnu diverzitu.
- Žiada dobrú odpoveď.
- Presnú odpoveď.
- Profesionálnu odpoveď.
- Najlepší spôsob, ako niečo formulovať.
A práve optimalizácia na "najlepšiu" odpoveď môže efektívny priestor výstupov opäť významne zužovať.
Model vie vytvoriť tisíc interpretácií, no jeho post-training, hodnotenie používateľských preferencií a celý systém odmien ho učí, ktoré z nich ľudia považujú za jasné, užitočné, relevantné a inteligentné. Výsledkom nemusí byť jednoduchá reprodukcia priemeru tréningového korpusu. Ide o sofistikovanejší proces, v ktorom sa obrovský latentný priestor možností zužuje na relatívne malé množstvo odpovedí považovaných v konkrétnom kontexte za dobré.
A s rastúcou špecializáciou agentov môže byť tento efekt ešte zaujímavejší.
Právny agent nebude optimalizovaný na všetky možné interpretácie sveta, ale na produkciu právne použiteľných reprezentácií. Medicínsky agent bude smerovať k určitému množstvu diagnostických abstrakcií, analytický agent k určitým typom kauzálnych modelov a firemný agent vytrénovaný na interných dátach spoločnosti môže postupne kompilovať veľmi odlišné problémy do rovnakej malej množiny organizačných kategórií.
Čím je doména užšia a čím presnejšie je definované, čo znamená kvalitný výstup, tým hlbšie môžu byť jednotlivé konceptuálne atraktory.
To, samozrejme, nie je nevyhnutný zákon. Model možno fine-tunovať aj naopak, na generovanie alternatívnych perspektív, vyhľadávanie nepravdepodobných interpretácií alebo zámerné narúšanie dominantných rámcov. Úzky model nemusí byť automaticky homogenizačný. Ak však jeho cieľom bude konzistentnosť, najlepšia prax, presnosť a čo najvyššia pravdepodobnosť úspešného riešenia konkrétneho typu úlohy, je rozumné očakávať, že viac rozdielnych vstupov začne končiť v menšom počte osvedčených reprezentácií.
Inými slovami, čím lepšie budú modely vedieť kompilovať naše neurčité intuície do "správnych" tvrdení, tým dôležitejšia bude otázka, koľko alternatívnych spôsobov kompilácie pritom prestaneme používať.
Rovnaké abstrakcie, rôzne slová
Tento rozdiel je podstatný, pretože inak sa celý problém veľmi rýchlo zmení na ďalšiu sťažnosť na to, že AI píše nudne. To je triviálna časť problému a pravdepodobne aj dočasná. Modely sa naučia lepšie imitovať jednotlivých autorov, používatelia si vytvoria vlastné štýlové profily, agenti si zapamätajú individuálny rytmus viet a o niekoľko rokov možno nebude možné podľa povrchovej syntaxe spoľahlivo rozoznať, či človek použil AI.
Personalizácia však hlbšiu konvergenciu automaticky nerieši.
Agent môže dokonale zachovať moje dlhé odstavce, slovník, metafory, obľúbené konštrukcie, dokonca moje typické gramatické chyby, a napriek tomu môže pri interpretácii problému stále vyberať rovnaké abstrakcie, aké ponúka iným ľuďom.
Povrch zostane individuálny, zatiaľ čo hlbšia štruktúra začne konvergovať.
To bude oveľa ťažšie spozorovať. Ak päť ľudí napíše rovnaký argument rovnakou syntaxou, homogenizáciu vidíme okamžite. Ak päť ľudí napíše rovnaký koncept piatimi presvedčivo autentickými hlasmi, môžeme nadobudnúť presne opačný dojem, že sledujeme bohatý a pluralitný diskurz.
Formálna diverzita tak môže dokonca zakryť konceptuálnu uniformitu.
A práve preto ma jedna opakujúca sa veta zaujala viac než tisíce očividne AI-generovaných textov na internete. V prvom prípade vidím estetický artefakt. V druhom sa možno opakuje samotná jednotka významu.
Foucault bez cenzora
Práve tu sa celý problém začína nepríjemne približovať Foucaultovi, hoci trochu inak, než sa jeho meno používa v bežných internetových debatách. Moc v tomto ponímaní nefunguje iba prostredníctvom explicitného zákazu, príkazu alebo centrálnej autority. Funguje aj cez systémy, ktoré určujú, ktoré kategórie sú legitímne, čo sa považuje za rozumné tvrdenie, akým jazykom možno o určitom probléme hovoriť a ktoré formy poznania sa vôbec dokážu stať súčasťou verejného diskurzu.
Digitálne platformy už tento proces výrazne modifikovali. Google ovplyvnil, ktoré informácie nájdeme, sociálne siete rozhodovali, ktoré informácie sa k nám dostanú, TikTok optimalizoval samotnú formu obsahu podľa toho, čo dokáže zachytiť ľudskú pozornosť. Jazykové modely však vstupujú ešte o krok skôr, do momentu, keď sa myšlienka ešte len mení na spoločensky prenosnú podobu.
To je kvalitatívne iný typ infraštruktúry.
Nemáme ministerstvo, ktoré rozhoduje, aké vety smieme používať, ani centrálnu autoritu prideľujúcu ľuďom povolené pojmy. Máme niečo jemnejšie, nástroj, ktorý používame dobrovoľne, pretože nám pomáha hovoriť presnejšie, a ktorý zároveň prirodzene zvýhodňuje niektoré reprezentácie pred inými.
Nikto nám nič nezakazuje. Model nám iba ponúkne lepšiu vetu.
Ak sa však "lepšia veta" opakovane nachádza v rovnakej oblasti konceptuálneho priestoru, zmena verejného diskurzu nemusí prebiehať prostredníctvom cenzúry, ale prostredníctvom štatistickej optimalizácie.
Foucaultovská modulácia diskurzu tak nemusí prísť ako zákaz. Môže prísť ako autocomplete.
Pokles konceptuálnej entropie
Ak by sme chceli celý problém pomenovať technickejšie, nejde o homogenizáciu jazyka, ale o potenciálny pokles konceptuálnej entropie.
Kultúra môže obsahovať obrovské množstvo textov, miliardy viet a prakticky nekonečné množstvo štylistických kombinácií, a napriek tomu môže stále menší počet základných abstrakcií určovať, ako tieto texty interpretujú svet. Presne ako systém môže mať obrovský počet mikroskopických stavov, no iba malý počet makroskopických konfigurácií.
To by vysvetľovalo aj zvláštny paradox, ktorý možno začneme pozorovať čoraz častejšie. Množstvo obsahu rastie exponenciálne, zatiaľ čo pocit informačnej novosti nerastie rovnakým tempom.
Internet môže byť zaplavený väčším množstvom textu než kedykoľvek predtým a zároveň môžeme mať dojem, že stále čítame tie isté argumenty.
- Nie tie isté slová.
- Tie isté informačné objekty.
- Tie isté základné rozdelenia problému.
- Tie isté ekonomické metafory.
- Tie isté kauzálne modely.
- Tie isté syntetické závery.
Ak je jazykový model veľmi dobrým kompresorom existujúceho ľudského diskurzu a zároveň veľmi dobrým generátorom vysoko pravdepodobných rekonštrukcií z tejto kompresie, takýto výsledok by vlastne nemal byť prekvapivý. Práve naopak, bolo by zvláštne, keby pri masovom používaní rovnakých alebo podobných modelov vôbec nevznikali oblasti silnej konvergencie.
Možno je to civilizačná výhoda
Bolo by však jednoduché, a pravdepodobne nesprávne, označiť celý proces automaticky za problém. Veľká časť civilizačného pokroku vznikla práve redukciou rozdielov v spôsoboch, akými si ľudia reprezentovali a prenášali informácie. Štandardizované jednotky, matematická notácia, vedecká terminológia, technické normy, programovacie jazyky, internetové protokoly alebo účtovníctvo fungujú práve preto, že spoločnosť dokáže spolupracovať efektívnejšie, keď sa veľké množstvo ľudí dohodne na rovnakých abstrakciách.
Ak dvaja fyzici pod slovom elektrón rozumejú približne tú istú vec, nie je to tragická strata originality. Je to podmienka vedeckého pokroku.
Možno jazykové modely začínajú robiť niečo podobné s oveľa širšou vrstvou ľudskej komunikácie. Človek v Japonsku, Indii, Brazílii a na Slovensku môže vyrastať v úplne inom kultúrnom prostredí, no model mu dokáže pomôcť preložiť lokálnu intuíciu do abstrakcie, ktorá je okamžite čitateľná pre človeka na opačnej strane planéty.
Možno tak vzniká určitý globálny konceptuálny protokol.
Ak je to pravda, jeho prínos môže byť obrovský. Menej času budeme strácať dekódovaním lokálnych spôsobov vyjadrovania, odborné disciplíny sa budú jednoduchšie prepájať, ľudia s horšou schopnosťou formulovať svoje myšlienky dostanú prístup k jazyku, ktorý bol historicky vyhradený ľuďom s určitým typom vzdelania. Množstvo konfliktov, ktoré dnes vyzerajú ako nezhoda o realite, sa môže ukázať ako nezhoda medzi dvoma nekompatibilnými slovníkmi.
Ak všetci budeme používať podobné štatisticky pravdepodobné termíny na podobné veci, možno si ako spoločnosť začneme jednoducho lepšie rozumieť.
To nie je malá vec.
Civilizácia je do veľkej miery problém koordinácie a spoločný jazyk je jednou z jej základných infraštruktúr.
Lenže každý protokol zároveň určuje, ktoré informácie sa prenášajú ľahko a ktoré sa do neho zmestia iba s veľkou stratou.
Kultúra potrebuje aj zlé kompilátory
Biologická evolúcia by bola omnoho efektívnejšia, keby po nájdení dostatočne dobre fungujúceho organizmu jednoducho prestala experimentovať. Väčšina mutácií je škodlivá alebo úplne zbytočná, obrovské množstvo organizmov zomiera bez toho, aby ich genetické experimenty niekam viedli. Z pohľadu krátkodobej optimalizácie ide o absurdne neefektívny systém.
Lenže práve tento odpad je zdrojom robustnosti.
Neefektívne mutácie, chyby pri kopírovaní a slepé vývojové vetvy vytvárajú priestor, z ktorého môže vzniknúť adaptácia na prostredie, ktoré ešte neexistuje.
Kultúra môže fungovať podobne.
Väčšina originálnych formulácií nie je lepšia než zaužívaná formulácia. Väčšina nových pojmov nepotrebovala vzniknúť, väčšina zvláštnych metafor nikam nevedie a veľká časť textu, ktorý človek vytvorí bez AI, je objektívne horšia než verzia, ktorú by mu za desať sekúnd pripravil moderný jazykový model.
Problém je v tom, že vopred nevieme, ktorá chyba je iba chyba a ktorá je prvým krokom k novej reprezentácii sveta.
Veľké intelektuálne posuny často nevznikali tým, že niekto našiel lepšiu odpoveď v už existujúcom priestore možností, ale tým, že zmenil samotný jazyk problému. Vytvoril nový pojem, spojil dve dovtedy oddelené kategórie, použil nepresnú metaforu, ktorá sa ukázala ako produktívna, alebo odmietol abstrakciu, ktorú všetci ostatní považovali za samozrejmú.
Takéto mutácie vznikajú aj preto, že ľudia sú zlé kompilátory.
Každý prekladá realitu cez inú biologickú históriu, kultúru, slovnú zásobu, profesiu, sociálne prostredie a náhodné asociácie. Práve táto heterogenita produkuje obrovské množstvo reprezentácií sveta, z ktorých je väčšina nepoužiteľná, niekoľko zaujímavých a veľmi malá časť natoľko produktívna, že neskôr zmení spôsob, akým problém formulujú všetci ostatní.
Ak medzi túto heterogenitu a verejný diskurz vložíme vysoko kvalitný spoločný kompilátor, môžeme zvýšiť priemernú kvalitu každého jednotlivého výstupu a zároveň znížiť množstvo nepravdepodobných konceptuálnych mutácií.
Každý text bude lepší ale celý informačný ekosystém pritom nemusí byť bohatší.
Spätná väzba
Celý proces sa stáva ešte zaujímavejším, keď si uvedomíme, že jazykové modely nie sú izolované od kultúry, ktorú pomáhajú vytvárať. Súčasné modely vznikli učením na obrovskom množstve ľudského textu, teda na produkte niekoľkých tisícročí kultúrnej evolúcie, počas ktorej miliardy jednotlivcov vytvárali vlastné formulácie, metafory, kategórie, chyby a spôsoby interpretácie sveta.
Teraz však tieto modely vstupujú späť do procesu produkcie kultúry.
Pomáhajú písať e-maily, články, vedecké abstrakty, prezentácie, politické prejavy, knihy, komentáre, firemné dokumenty aj súkromné správy. Ich syntetické tvrdenia sa postupne stávajú súčasťou ľudského diskurzu, ľudia ich absorbujú, používajú ich bez asistencie modelu, učia nimi ďalších ľudí a časť tohto textu sa skôr či neskôr znovu objaví aj v dátovom prostredí ďalších generácií systémov.
Modely teda nebudú iba predikovať jazyk.
Začnú meniť distribúciu jazyka, ktorý sa neskôr stane predmetom ďalšej predikcie.
Ak určitá abstrakcia patrí medzi pravdepodobné riešenia konkrétneho typu problému, model ju začne častejšie ponúkať ľuďom, ľudia ju začnú používať, jej kultúrna frekvencia vzrastie a tým sa zároveň posilní jej postavenie ako prirodzeného spôsobu, ktorým sa daný problém formuluje.
Nevznikne svet, v ktorom budú všetci hovoriť doslova rovnakými vetami, na zásadnú premenu diskurzu ani nie je potrebná takáto extrémna uniformita.
Civilizácia je evolučný systém a v evolučných systémoch je rozdiel medzi nulovou a mierne vyššou pravdepodobnosťou pri dostatočne veľkom počte iterácií obrovský.
Najjemnejšia forma modulácie
Možno preto bude dlhodobý kultúrny vplyv jazykových modelov oveľa menej dramatický než súčasné scenáre o ovládnutí ľudstva a zároveň hlbší, než si dnes pripúšťame. AI nám nemusí prikazovať, čo si máme myslieť, nemusí manipulovať voľby, kontrolovať médiá ani mať vlastné politické ciele. Nemusí byť vedomá a nemusí chcieť vôbec nič.
Úplne stačí, ak sa stane dominantným rozhraním, cez ktoré ľudia premieňajú neurčité vnútorné stavy na explicitné, spoločensky prenosné tvrdenia.
To by bola zvláštna forma foucaultovskej modulácie verejného diskurzu. Nikto necenzuruje slová, a napriek tomu sa mení priestor pravdepodobných odpovedí. Nikto nezakazuje myšlienky, a napriek tomu niektoré abstrakcie získavajú obrovskú štatistickú výhodu. Nikto neurčuje oficiálnu pravdu, a napriek tomu sa určité spôsoby interpretácie stanú predvolenými vstupnými bodmi, cez ktoré čoraz väčšia časť populácie začne problém chápať.
Nejde o kontrolu obsahu ale o zmenu topológie priestoru, v ktorom obsah vzniká.
A možno je práve dobrovoľnosť tejto zmeny jej najzaujímavejšou vlastnosťou. Model nepoužívame napriek tomu, že nás normalizuje. Používame ho preto, že jeho normalizácia je pre jednotlivca veľmi užitočná. Odstráni šum, zvýši zrozumiteľnosť, nájde pointu a často nám poskytne presne tú vetu, pri ktorej si povieme, že sme to predsa od začiatku chceli povedať presne takto.
Tá veta je moja
Otázka autenticity, ktorá dnes sprevádza takmer každú debatu o generatívnej AI, je preto možno menej zaujímavá, než sa zdá. Ak som mal pôvodnú intuíciu ja, ale agent našiel formuláciu, komu patrí výsledná veta? Ak model upraví polovicu článku, som stále jeho autorom? Kde sa nachádza hranica medzi editorom, spoluautorom a nástrojom?
Tieto otázky si pravdepodobne časom vyriešime novými spoločenskými konvenciami, podobne ako sme to urobili pri editoroch, prekladateľoch, fotografii alebo softvéri.
Oveľa zaujímavejšia je otázka, čo sa deje s distribúciou samotných abstrakcií.
Keď mi agent formuloval vetu o lacnej inteligencii, nemal som pocit, že mi vložil do hlavy cudziu myšlienku. Práve naopak. Mal som pocit, že konečne presne pomenoval niečo, čo už vo mne existovalo.
A možno je práve tento pocit kľúčom k celému fenoménu.
Model nás nemusí presviedčať o cudzích názoroch. Stačí, ak nám mimoriadne dobre pomáha objavovať "naše vlastné" myšlienky v priestore abstrakcií, ktorý je do značnej miery spoločný pre všetkých používateľov toho istého systému.
Výsledok potom nevnímame ako homogenizáciu.
Vnímame ho ako úľavu.
Presne toto som chcel povedať.
Presne takto som nad tým premýšľal.
Tá veta je moja.
A o tri dni ju čítame u človeka v inej krajine, inom jazyku a inom sociálnom kontexte, ktorý mal pri jej vzniku pravdepodobne úplne rovnaký pocit.
Možno to stále nič neznamená. Možno máme prvýkrát v dejinách technológiu schopnú tak efektívne destilovať podobné ľudské intuície, že si začíname všímať, ako často sme si boli podobní už pred jej vznikom. Možno spoločný kompilátor nehomogenizuje naše myslenie, iba odhaľuje jeho existujúcu homogenitu.
Ale existuje aj druhá možnosť.
Že pred našimi očami začína pomalá štandardizácia nie slovníka, ale abstrakcií. Nie spôsobu, akým skladáme vety, ale spôsobu, akým z neurčitého vnútorného chaosu vytvárame explicitné tvrdenia. A že čím väčšia časť ľudského myslenia bude prechádzať cez rovnaké alebo čoraz užšie špecializované kompilačné vrstvy, tým viditeľnejšie budú miesta, v ktorých rôzne mentálne trajektórie končia v rovnakých informačných objektoch.
Možno si vďaka tomu budeme rozumieť lepšie než kedykoľvek predtým.
Možno vznikne spoločný konceptuálny protokol schopný prekračovať odborné, kultúrne a jazykové bariéry, ktoré celé stáročia komplikovali ľudskú koordináciu.
A možno je určitá strata variability jednoducho cenou za efektívnejšiu kolektívnu inteligenciu.
Lenže schopnosť navzájom si rozumieť nie je to isté ako schopnosť vytvárať nové spôsoby porozumenia.
Spoločnosť, v ktorej všetci dokážu dokonale formulovať problém rovnakým spôsobom, môže byť mimoriadne efektívna pri hľadaní jeho riešenia a zároveň prekvapivo neschopná všimnúť si, že problém od začiatku formulovala nesprávne.
A možno práve preto si tú vetu stále pamätám.
Nie preto, že by bola mimoriadne originálna.
Ale preto, že som po prvýkrát začal premýšľať nad tým, či budúcou hranicou medzi človekom a umelou inteligenciou bude naozaj schopnosť rozoznať, kto napísal konkrétny text.
Oveľa zaujímavejšia otázka môže byť, či raz ešte dokážeme rozoznať, ktoré spôsoby formulovania sveta by bez tejto obrovskej spoločnej kompresnej vrstvy vôbec vznikli.
Komentáre ()