Týždeň, v ktorom sa AI učí počítať dôkazy a my sa učíme počítať s ňou
Terence Tao tento týždeň povedal, že zlatá éra matematiky sa možno končí. Nie preto, že by ľudia prestali myslieť, ale preto, že stroje začali dokazovať vety rýchlejšie, než ich stíhame čítať. Zároveň sa ukázalo, že tie isté stroje si vymýšľajú a nevedia, kedy si vymýšľajú.
Minule sme písali o tom, že o emóciách AI nevieme nič. Tento týždeň sa posúvame o krok ďalej: nevieme ani to, kedy má AI pravdu, a ani to, či na tom vôbec záleží.
Matematika po vstupe do éry nadbytku dôkazov
Hugo Duminil-Copin v rozhovore pre Numberphile opisuje pocit, ktorý nazýva "preletenie sa helikoptérou na vrchol" — roky lezenia po stene sa skrátia na okamih, keď vás niekto vyvezie nahor. Tao to rámcuje podobne, ale systematickejšie: hovorí o prechode od romantickej éry matematiky, kde jednotlivec hľadal hlboké porozumenie, k ére nadbytku dôkazov, kde AI generuje kvantá riešení, ktorým už nikto úplne nerozumie. Prirovnáva to k priemyselnej revolúcii: remeslo sa mení na priemysel, a to, čo bolo kedysi zdrojom hrdosti, sa stáva vstupom do stroja.
Toto nie je jednoznačne zlá správa. Zástancovia argumentujú, že matematika vždy absorbovala nové nástroje a vždy z toho profitovala. Kto dnes ručne počíta logaritmy? Nikto. A predsa matematika nezanikla, len sa posunula k zaujímavejším problémom. Kritici namietajú, že tu ide o niečo iné: nielen o výpočet, ale o porozumenie. Ak stroj vyprodukuje dôkaz, ktorému nerozumie ani ten, kto ho zadal, čo presne sme získali?
Tao sám je opatrný. AI podľa neho zvládne rutinu, literárne rešerše, menej zložité problémy. Pri hlbokých otázkach je to stále nástroj, nie kolega. Podľa mňa je toto presnejší obraz než katastrofické ani oslavné titulky: nie náhrada matematikov, ale zmena toho, čo bude ich prácou.
Model, ktorý zvládne všetko a predsa mu nemôžete veriť
Ethan Mollick v podcaste profesora Galla odporúča konkrétne modely a konkrétnu cenu: približne dvadsať dolárov mesačne za prístup k pokročilým verziám, ktoré podľa neho zvládnu serióznu prácu. Znie to konkrétne a prakticky. Lenže v tej istej vlne sa objavil aj rozhovor s Terenceom Taom, kde matematik varuje pred slepou dôverou: veľké jazykové modely generujú text, ktorý vyzerá ľudsky, ale nemajú fundamentálne porozumenie, a preto produkujú chyby, ktoré sa ťažko odhaľujú práve preto, že vyzerajú dobre.
Toto je napätie, ktoré sa nedá vyriešiť jedným odporúčaním. Mollick má pravdu v tom, že nástroje sú dnes použiteľné a že ich ignorovať je plytvanie. Tao má pravdu v tom, že ich používať bez overovania je hazard. Obe veci platia súčasne a každý, kto tvrdí, že jedna prevažuje, niečo zamlčuje.
Rozdiel medzi nástrojom, ktorý sa mýli zjavne, a nástrojom, ktorý sa mýli presvedčivo, je celý rozdiel medzi kalkulačkou a kolegom. Kalkulačke neveríte, kolegovi áno. AI sa tvári ako kolega, ale funguje ako kalkulačka, ktorá občas zabudne, že nie je kolega.
Vyplýva z toho jedna praktická vec: ak dnes firma alebo úrad nasadí AI do rozhodovania, ktoré sa týka ľudí, otázka nie je, či je model dobrý. Otázka je, kto overuje jeho výstup a ako sa dá odvolať. Ten mechanizmus u nás zatiaľ nemáme.
Vývojár sa mení na dirigenta, kód na špecifikáciu
Jeden z textov opisuje päť konceptov, ktoré menia vývoj softvéru: bod zlomu, kde AI dramaticky zrýchľuje úlohy; vývoj riadený špecifikáciou, kde presný opis požiadaviek je dôležitejší než samotné písanie kódu; posun od implementácie k orchestrácii, kde vývojár rieši architektúru a systém; a takzvané kontextové inžinierstvo, teda schopnosť dať AI správne informácie. Uber medzitým opisuje, ako sa z dvoch služieb v roku 2015 stal komplexný mikroslužbový systém s vlastnými nástrojmi na metriky, workflow a strojové učenie.
Spoločný menovateľ: práca sa nevytráca, ale presúva sa z rúk do hlavy a z kódu do rozhodnutí. IBM Technology to rámuje historicky: obavy z nahradenia pracovnou silou sprevádzali každú technologickú vlnu od áut po internet, a vždy sa práca transformovala, nie zničila. To je upokojujúce čítanie. Je zároveň trochu pohodlné: história nehovorí, že sa nič zlé nestane, len že sa to zlé neudialo vždy a všade rovnako. Pre človeka, ktorý práve teraz prichádza o prácu pri tejto transformácii, je štatistický priemer slabá útecha.
Kde sa technológia stretáva s realitou, ktorú nechceme vidieť
Bloomberg Tech priniesol tri konkrétne čísla. ASML nestíha vyrábať litografické stroje, dodacie lehoty sa posúvajú až k roku 2030, a to aj napriek obmedzeniam vývozu do Číny. Nvidia investuje miliardy do Európy. OpenAI kladie dôraz na bezpečnosť a zosúladenie. Jensen Huang zároveň hovorí o "suverenite" — kontrole nad dátami, skúsenosťami a hodnotami — a varuje pred nekontrolovaným rastom.
Tu je zaujímavý rozpor, ktorý sa málokedy pomenuje. Ten istý priemysel, ktorý tvrdí, že AI potrebuje zodpovedný prístup, súčasne hlási, že dopyt prevyšuje kapacitu a že sa nedá čakať. Bezpečnosť a zosúladenie sú priority, kým sa nezačne hovoriť o oneskorených dodávkach. Nie je to cynizmus konkrétnej firmy, je to štrukturálne: kapitál tlačí na tempo, etika na brzdu, a brzda zvyčajne prehráva.
Pre Európu a Slovensko je relevantná iná časť: investície Nvidie do Európy znamenajú, že región sa stáva dôležitejším pre vývoj AI. To je príležitosť aj riziko. Príležitosť v kapacitách a pracovných miestach, riziko v tom, že sa opäť stane miestom, kde sa technológia montuje, ale nerozhoduje o nej. Ako sme písali v Google získava 85 miliárd dolárov: Čo to znamená pre trh?, peniaze sa v tomto odvetví hýbu rýchlejšie než schopnosť regulovať ich dôsledky.
Čo z toho naozaj vieme
Vieme tri veci pomerne isto. AI dnes zvládne úlohy, ktoré boli donedávna doménou ľudí s dlhým tréningom. Robí to rýchlo a lacno. A robí chyby spôsobom, ktorý sa nedá odhaliť bez toho, aby sme rozumeli výsledku.
Nevieme dve veci, ktoré sú možno dôležitejšie. Nevieme, či strata porozumenia pri generovaných výsledkoch je dočasná alebo trvalá — teda či sa naučíme nové spôsoby overovania, alebo sa len posunieme k systému, kde nikto ničomu nerozumie, ale všetko funguje dostatočne často. A nevieme, či transformácia práce prinesie viac miest, než zruší, alebo či tentokrát história nebude opakovať vzorec, ale niečo iné.
Otázka nie je, či AI zmení matematiku, vývoj softvéru a ekonomiku. Zmenila ich už. Otázka je, kto bude mať dosť trpezlivosti overovať jej odpovede, keď sa to nikdy nezjaví v titulkoch.
Podľa mňa je najzaujímavejší signál tohto týždňa ten, ktorý sa najťažšie predáva: nástroje, ktoré generujú dôkazy, kód a texty, zvyšujú hodnotu ľudí, ktorí vedia povedať, kedy je výsledok zlý. To nie je romantická éra ani priemyselná revolúcia. Je to niečo, pre čo ešte nemáme meno, a možno práve preto sa o tom tak ťažko píše bez preháňania na obe strany.
Súvisiace články
Komentáre ()