Prečo Ai zhorší prácu každému
Skutočná hrozba Ai nie je masová nezamestnanosť, ale prestavba pracovísk okolo lacného syntetického výstupu. Výsledkom nebude svet bez práce, ale svet horšej práce, menej autonómnej, menej odbornej a zaplavenej odpadom, ktorý bude musieť niekto kontrolovať.
O umelej inteligencii som tu už písal viackrát. O závode, ktorý sa nedá vyhrať, pretože jeho logika sama vyrába riziko. O tom, že AI nemusí spôsobiť masovú nezamestnanosť, ale kritický nedostatok expertov. Aj o technologických lídroch, ktorí čoraz viac hovoria jazykom apokalyptického kultu.
Igor Šovčík
Igor Šovčík
Igor Šovčík
Tento text je pokračovaním tej istej línie, ale z iného dôvodu. Pred časom mohli tieto varovania znieť abstraktne. Dnes ich už veľa ľudí začína chápať vďaka vlastnej skúsenosti.
Nie preto, že by im AI zobrala prácu ale kvôli tomu, že im ju začala meniť.
Viac výstupov, viac draftov, viac kontroly, viac opráv. Viac nástrojov, ktoré sľubujú úsporu času, ale v skutočnosti vytvárajú nové očakávania, nové metriky a nové formy zodpovednosti bez kontroly.
Preto sa oplatí vrátiť k výroku profesorky Emily Benderovej, že LLM systémy môžu zhoršiť prácu každému.
Keď profesorka Benderová hovorí, že LLM systémy môžu zhoršiť prácu každého, nemyslí tým, že každý človek zajtra príde o zamestnanie. Myslí tým že ak manažérska trieda uverí "príbehu" o umelej inteligencii, prestavia pracoviská okolo lacného syntetického výstupu LLM modelov. Výsledkom nebude svet bez práce, ale svet horšej práce. Menej autonómnej, menej zmysluplnej, menej odbornej a oveľa viac zaplavenej umelým odpadom, ktorý bude musieť niekto kontrolovať.
Igor Šovčík
Anglický preklad
Zlá otázka
Verejná debata o Ai je už roky uväznená pri nesprávnej otázke, či nám vezmú stroje prácu.
Táto otázka je atraktívna, pretože je jednoduchá. Má dramatický náboj. Dá sa z nej urobiť titulka, panelová diskusia aj volebný program. Buď nás Ai nahradí, alebo nenahradí. Buď bude masová nezamestnanosť, alebo nebude. Buď budeme potrebovať univerzálny základný príjem, alebo budeme ďalej pracovať.
Lenže práve v tejto jednoduchosti je problém.
Práca nie je binárna kategória, môže existovať a zároveň sa môže aj zhoršiť. Môže byť formálne zachovaná, ale obsahovo vyprázdnená. Môže byť efektívnejšia podľa metrík manažmentu a zároveň horšia pre človeka, ktorý ju vykonáva. Môže produkovať viac výstupov a menej hodnoty. Môže zvyšovať objem komunikácie, dokumentov, reportov, kódu a analýz, no súčasne znižovať množstvo skutočného porozumenia. To je dôvod, prečo je výrok profesorky Benderovej dôležitý.
Čo vlastne Benderová hovorí
Veľké jazykové modely nie sú mysliace bytosti. Nie sú to kolegovia, asistenti ani digitálni juniori. Sú to systémy na syntézu jazykových foriem. V slávnom texte o "stochastických papagájoch" Benderová a jej spoluautorky tvrdili, že jazykový model spája úseky textu podľa pravdepodobnostných vzorov, ale "bez odkazu na význam".
To znie akademicky, ale dôsledok je veľmi praktický.
Ak systém nerozumie významu, nemôže niesť zodpovednosť. Ak nenesie zodpovednosť, musí ju niesť človek. A ak firma začne tento systém používať na produkciu textu, rozhodnutí, analýz, kódu alebo odporúčaní vo veľkom meradle, vzniká nová forma práce človeka ako tlmiča medzi syntetickým výstupom a realitou.
Človek už netvorí primárne hodnotu. Človek kontroluje, či stroj náhodou nevytvoril problém.
To je jadro Benderovej varovania. Nie že LLM nikdy nikomu nepomôže. Ale že ak sa z LLM stane infraštruktúra pracoviska, začne sa meniť samotná definícia práce. A táto zmena nebude riadená tým, čo pomáha ľuďom lepšie myslieť. Bude riadená tým, čo umožňuje manažmentu lacnejšie produkovať výstupy, znižovať náklady a presúvať riziko smerom nadol.
Tri druhy odporu voči Ai
Aby sme pochopili, prečo je jej kritika taká dôležitá, musíme najprv rozlíšiť tri rôzne druhy odporu voči Ai hajpu samotnému. Dnes sa totiž všetko hádže do jedného vreca. Každý, kto nesúhlasí s marketingovým príbehom technologických firiem, je automaticky označený za skeptika, luditu alebo človeka, ktorý "nepochopil budúcnosť".
1. Mainstreamový katastrofizmus
Prvý prúd reprezentujú ľudia ako Tristan Harris a Center for Humane Technology. Ich rámec je verejne najviditeľnejší, mediálne najzrozumiteľnejší a politicky najprijateľnejší. Hovoria o pretekoch, bezpečnosti, strate kontroly, existenčnom riziku a potrebe "spomaliť, aby sme to urobili správne". V ich rámcovaní sú sociálne médiá prvým kontaktom ľudstva s Ai a LLM systémy druhým kontaktom, pri ktorom môžeme zopakovať tie isté chyby.
Tento prúd má veľkú zásluhu v tom, že upozorňuje na závodné incentívy a na to, že technologické firmy nemožno nechať samé regulovať vlastnú moc.
Problém je však v tom, že tento druh kritiky Big Techu paradoxne často vyhovuje.
Stále totiž akceptuje základnú mytológiu priemyslu. Predpokladá, že Ai je nesmierne mocná technológia na prahu civilizačnej transformácie. Len ju treba urobiť bezpečnou. Treba viac alignmentu, viac expertov, viac výskumu, viac dohľadu, viac bezpečnostných protokolov. A kto má zdroje na takúto "bezpečnú" Ai? Presne tie isté firmy, ktoré problém vytvorili.
2. Firemná etika a "zodpovedné Ai"
Druhý prúd je ešte pohodlnejší. Je to jazyk "zodpovednej Ai". Bias audity, guardrails, human-in-the-loop, transparentnosť, etické smernice, školenia zamestnancov.
Na papieri to znie super. V praxi to však často funguje ako imunizačná vrstva. Firma môže nasadiť systém, ktorý mení prácu, znižuje autonómiu a presúva zodpovednosť na zamestnanca, ale zároveň môže povedať, že všetko je v poriadku, pretože "človek zostáva v slučke".
Lenže človek v slučke je často len iný názov pre človeka ako poistku.
Stroj generuje. Manažment šetrí. Dodávateľ fakturuje. A človek ručí.
Ak sa niečo pokazí, zlyhal človek, pretože výstup dostatočne neskontroloval. Ak sa nič nepokazí, zásluhu má systém, pretože zvýšil produktivitu v dokonalej asymetrii.
3. Skutočná štrukturálna kritika
Tretí prúd je menej viditeľný, menej pohodlný a oveľa menej bezpečný pre priemysel. Sem patria ľudia ako Emily Benderová, Timnit Gebru, Alex Hanna, Kate Crawford, Cory Doctorow a ďalší kritici, ktorí nehovoria primárne o hypotetickej superinteligencii, ale o aktuálnej moci.
Ich otázky sú iné, pýtajú sa: Kto vlastní infraštruktúru? Kto ukradol dáta? Kto vykonáva lacnú a traumatizujúcu prácu pri čistení dát? Kto nesie environmentálne náklady? Kto je poškodený, keď sa syntetický text použije v škole, na súde, v zdravotníctve alebo v sociálnom systéme? Kto profituje z toho, že jazykový model vyzerá ako inteligencia?
V rozhovore o stochastických papagájoch Benderová upozorňuje, že dnešný problém nie je len krádež dát, ale kombinácia dátovej krádeže a pracovného vykorisťovania okolo označovania a čistenia dát.
Toto je dôvod, prečo sú skutoční odporcovia menej viditeľní. Neponúkajú filmový príbeh o stroji, ktorý sa raz možno prebudí. Ponúkajú oveľa nepríjemnejší príbeh o ľuďoch, ktorí sú už dnes tlačení do horších pracovných, kultúrnych a politických podmienok.
Ai enshittifikácia práce
Cory Doctorow popularizoval pojem "enshittifikácia" ako opis procesu, pri ktorom digitálne platformy najprv slúžia používateľom, potom obchodným zákazníkom a nakoniec extrahujú hodnotu zo všetkých strán v prospech vlastníkov. V jeho opise platforma ponechá používateľom a biznis partnerom už len toľko zostatkovej hodnoty, aby nemohli alebo nechceli odísť. Presne tento rámec prenášame z platforiem aj na pracovné miesta.
Ai enshittifikácia práce prebieha v troch fázach.
1. Nástroj ako dar
Zrazu viete rýchlejšie napísať e-mail. Zhrnúť dokument. Vygenerovať osnovu prezentácie. Upraviť text. Vytvoriť návrh kódu. Preložiť správu. Pripraviť odpoveď klientovi. Všetko pôsobí ako malý zázrak.
V tejto fáze je odpor voči Ai najťažší. Človek, ktorý povie "pozor, toto môže mať zlé dôsledky", vyzerá ako niekto, kto zakazuje kalkulačky, internet alebo spellcheck.
A úprimne, v tejto fáze Ai často skutočne pomáha.
Problém nie je v tom, že by nástroj nikdy nemal užitočné použitie. Problém je v tom, že každá technológia, ktorá individuálne šetrí čas, sa v korporátnom prostredí veľmi rýchlo mení na nový štandard výkonu.
To, čo bolo včera pomocou, je zajtra očakávanie.
2. Fáza prestavby procesu
Ak zamestnanec s Ai zvládne pripraviť návrh za hodinu namiesto štyroch, prečo by mal mať stále štyri hodiny? Ak právnik vie vygenerovať prvý draft podania, prečo potrebujeme toľko juniorov? Ak učiteľ vie pripraviť pracovné listy cez chatbot, prečo by mal dostať čas na prípravu? Ak zákaznícka podpora vie odpovedať pomocou Ai, prečo by mala firma držať skúsený tím ľudí?
V tejto fáze sa technológia prestáva používať ako nástroj. Stáva sa základom reorganizácie práce.
Procesy sa začnú navrhovať podľa predpokladu, že syntetický výstup je normálny prvý krok. Zamestnanci sú motivovaní, aby generovali viac. Manažéri začnú merať objem. Počet odpovedí, počet ticketov, počet dokumentov, počet návrhov, počet commitov, počet kampaní.
Práca sa mení z remesla na tok výstupov.
A pretože výstupov je viac, rastie aj množstvo odpadu. Odpadu, ktorý je hladký, plynulý, profesionálne vyzerajúci a často "dostatočne dobrý".
Práve tento typ odpadu je najnebezpečnejší. Nie je zjavne zlý. Je len mierne nesprávny, plytký, nekontextuálny, neoverený alebo bez jasnej zodpovednosti.
3. Fáza extrakcie
Zamestnanec má menej autonómie, pretože jeho práca je čoraz viac definovaná nástrojom. Zákazník dostáva lacnejšiu a horšiu službu, často zabalenú do jazyka personalizácie. Organizácia stráca expertízu, pretože juniori sa už neučia na jednoduchých úlohách. Seniori sú zahltení kontrolou výstupov, ktoré by predtým ani nevznikli. A dodávateľ Ai infraštruktúry získava opakujúci sa príjem a hlbší prístup do pracovných procesov celej spoločnosti.
Všetci sú formálne produktívnejší ale aj reálne unavenejší.
Keď je všetko draft, nič nie je hotové
Jedným z najväčších klamov generatívnej Ai je predstava, že prvý draft je polovica práce. V niektorých prípadoch to môže byť pravda. Pri jednoduchom texte, internom e-maile alebo neformálnej osnove môže byť prvý draft užitočným štartom.
Lenže v expertných oblastiach je prvý draft často tá najlacnejšia časť práce. Skutočná práca nie je napísať vetu. Skutočná práca je vedieť, či veta vôbec mala vzniknúť.
Či je právne správna. Či je medicínsky bezpečná. Či je technicky udržateľná. Či je pedagogicky zmysluplná. Či nevynecháva kontext. Či neprekrýva neistotu sebavedomým tónom. Či neprodukuje ilúziu autority tam, kde by mala byť opatrnosť.
LLM systémy sú mimoriadne dobré v produkcii povrchu, vytvárajú tvar práce. Text vyzerá ako analýza, kód vyzerá ako riešenie a prezentácia vyzerá ako stratégia.
Lenže svet sa neláme na úrovni povrchu. Svet sa láme na úrovni detailu.
Preto generatívna Ai nemení expertnú prácu len tým, že niečo zrýchľuje. Mení ju tým, že produkuje obrovské množstvo materiálu, ktorý vyzerá hotovo, ale nie je hotový. Vzniká ekonomika nekonečných draftov. Všetko je pripravené na 80 %. Nič nie je skutočne zodpovedané. A posledných 20 %, ktoré vyžadujú expertízu, kontext a zodpovednosť, sa stáva úzkym hrdlom celého systému.
To je dôvod, prečo sa práca môže zhoršiť aj vtedy, keď sa formálne zrýchli.
Ľudský expert ako práčka syntetického textu
V starom pracovnom svete expert tvoril výstup. V novom pracovnom svete expert čoraz častejšie čistí výstup.
Toto je zásadná zmena. Programátor neopravuje len vlastný kód, ale kód, ktorý vygeneroval stroj bez porozumenia architektúre. Právnik nekontroluje len prácu juniora, ktorého môže učiť, ale text, ktorého "autor" sa nikdy nič nenaučí. Učiteľ neopravuje len chyby žiaka, ale výstupy systému, ktorý dokáže produkovať nekonečne veľa formálne prijateľných nezmyslov. Novinár neoveruje len zdroje, ale celý informačný priestor zaplavený syntetickými článkami, obrázkami a citáciami.
Do systému vstupuje syntetický odpad. Digitálny životný priestor bol kontaminovaný ropnou škvrnou ktorej rozmery ešte nechápeme. Expert má dodať pach zodpovednosti. Má zabezpečiť, aby výstup pôsobil ľudsky, správne a dôveryhodne.
Čím viac Ai generuje, tým viac potrebujeme ľudí, ktorí rozumejú. Ale čím viac organizácie prestavujú prácu okolo Ai, tým menej vytvárajú podmienky, v ktorých takéto porozumenie môže rásť.
Zničenie tréningového ihriska
Najhorší dôsledok Ai enshittifikácie práce sa neprejaví hneď. Prejaví sa o 10-15 rokov.
Expertíza nevzniká čítaním pravidiel. Nevzniká ani tým, že človek dohliada na výstupy systému, ktorému nerozumie. Expertíza vzniká pomalým prechodom cez množstvo nudných, opakujúcich sa, čiastočne bolestivých úloh.
Juniorný právnik musí čítať prípady. Juniorný programátor musí písať zlý kód a pochopiť, prečo je zlý. Lekár sa musí naučiť spájať symptómy s realitou tela. Učiteľ sa musí naučiť, kde presne žiak nerozumie. Novinár sa musí naučiť rozlišovať medzi informáciou, zdrojom, dojmom a manipuláciou.
Ak tieto úlohy automatizujeme, odstránime nielen nudnú prácu. Odstránime tréningové prostredie, v ktorom sa rodí úsudok.
To je zásadný rozdiel medzi efektivitou a učením.
Firma sa pozerá na rutinnú úlohu a vidí náklad. Civilizácia sa pozerá na rutinnú úlohu a mala by vidieť tréningový mechanizmus.
Ak každú základnú úlohu delegujeme na stroj, vytvoríme generáciu operátorov, ktorí vedia zadávať prompty, ale nevedia posúdiť, či odpoveď dáva zmysel. Až v momente krízy zistíme, že sme ušetrili presne tie hodiny praxe, ktoré sme najviac potrebovali.
Mainstreamový odpor nestačí
AI Now Institute vo svojej kritike AGI mytológie upozorňuje, že príbeh o AGI dodáva debate o Ai pocit nevyhnutnosti a že aj existenčný strach môže paradoxne pomáhať udržiavať predstavu o mimoriadnych schopnostiach týchto systémov.
Inými slovami, aj katastrofizmus môže byť reklamou.
Keď poviete, že Ai môže zničiť ľudstvo, zároveň hovoríte, že Ai je technológia s takmer božským potenciálom. To je presne príbeh, ktorý pomáha predávať akcie, cloudové služby, regulačný vplyv a politickú výnimku.
Kto dostane človeka?
Dlhodobým dôsledkom Ai enshittifikácie práce bude vznik novej triednej deliacej čiary.
Nebude to len rozdiel medzi tými, ktorí používajú Ai, a tými, ktorí ju nepoužívajú. Bude to rozdiel medzi tými, ktorí si môžu dovoliť človeka, a tými, ktorí dostanú chatbot.
Bohatý človek bude mať lekára. Chudobný človek dostane automatizovaný triážny systém.
Bohatá rodina bude mať učiteľa, tútora a školu, ktorá zakáže syntetické skratky. Chudobné dieťa dostane personalizovanú vzdelávaciu platformu s nekonečnými pracovnými listami.
Bohatá firma bude mať právnikov, ktorí Ai používajú opatrne a interne. Malý klient dostane automaticky vygenerované zmluvné vysvetlenie.
Verejná správa bude hovoriť o dostupnosti služieb. V praxi to však môže znamenať, že občan už nebude stáť pred úradníkom, ktorý síce môže byť pomalý a nepríjemný, ale stále je človekom. Bude stáť pred rozhraním, ktoré nevie pochopiť výnimku, ale vie ju zdvorilo zamietnuť.
Toto je veľmi starý príbeh v novom jazyku. Elity si ponechajú ľudský úsudok. Masám sa ponúkne automatizovaná náhrada. A bude sa tomu hovoriť demokratizácia.
Kvalita sa stane luxusom
Ďalším dôsledkom bude zmena ekonomiky kvality. Keď sa syntetický obsah stane lacným a všadeprítomným, kvalitný ľudský výstup nezmizne. Naopak, stane sa drahším. Nie preto, že by bol ľudský text magicky lepší. Ale preto, že bude obsahovať niečo, čo syntetický výstup neobsahuje: zodpovednosť, pôvod, kontext a reputačné riziko autora.
V budúcnosti možno nebudeme platiť za to, aby niečo vzniklo. Budeme platiť za to, aby niekto ručil, že to nie je odpad.
To je obrovský posun. Vznikne ekonomika overovania. Certifikované ľudské texty. Overené analýzy. Garantované právne výklady. Prémiové vzdelávanie bez chatbotov. Zdravotná starostlivosť s reálnym lekárom. Médiá, ktoré budú predávať nie rýchlosť, ale dôveru.
Táto ekonomika však nebude dostupná všetkým.
Pre väčšinu ľudí bude realitou lacný syntetický priemer. Dostatočne dobrý na to, aby sa nedal okamžite odmietnuť. Nedostatočne dobrý na to, aby sa naň dalo spoľahnúť.
To je možno najpresnejšia definícia Ai enshittifikácie. Svet, v ktorom je všetko mierne horšie, ale nič nie je dosť zlé na to, aby sa systém zastavil.
Prečo je dôležité myslieť na to teraz
Môžete namietať, že toto všetko je prehnané. Že ľudia si zvyknú. Že nástroje sa zlepšia. Že pracovné trhy sa prispôsobia. Že každá technológia mala kritikov.
Áno, každá technológia mala kritikov.
Ale nie každá technológia zasahovala priamo do produkcie jazyka, vedomostí, rozhodnutí a sociálnej dôvery. Nie každá technológia prišla v čase, keď už máme oslabené inštitúcie, polarizovanú spoločnosť, vyčerpaných pracovníkov, krehké informačné prostredie a manažérsku kultúru posadnutú metrikami.
Najdôležitejšie je, že pracovné procesy majú zotrvačnosť.
Keď firma raz zruší juniorné pozície, je ťažké ich obnoviť. Keď škola raz prestaví výučbu okolo automatizovaných nástrojov, stratí kultúru pomalého učenia. Keď úrad raz nahradí prvý kontakt chatbotom, občan si zvykne, že sa nemá komu dovolať. Keď médium raz zaplaví web syntetickými článkami, dôvera sa nevráti jedným ospravedlnením.
Technológie sa dajú vypnúť ale inštitucionálne návyky sa vypínajú ťažšie.
Preto je dôležité myslieť na Ai enshittifikáciu práce teraz, nie až po tom, čo sa stane normou.
Čo s tým
Riešením nie je zakázať každé použitie LLM. To by bolo nielen nerealistické, ale aj intelektuálne lenivé. Skutočná otázka neznie, či Ai používať. Skutočná otázka znie, kde, ako, pod koho zodpovednosťou a s akým cieľom.
Potrebujeme zmeniť základné pravidlo debaty.
Namiesto otázky "dokáže to Ai?" sa musíme pýtať: " čo sa stane s inštitúciou, ak to necháme robiť Ai?"
Pri každom nasadení by sme sa mali pýtať:
- Kto nesie zodpovednosť, keď výstup zlyhá? Ak odpoveď znie "človek v slučke", treba sa pýtať, či má tento človek reálnu moc výstup odmietnuť, alebo je len právnym tlmičom nárazu.
- Ničí systém tréningové prostredie pre juniorov? Ak áno, krátkodobá úspora môže byť dlhodobou stratou expertízy.
- Zvyšuje nástroj porozumenie, alebo len objem výstupov? Produktivita bez porozumenia je často len zrýchlená výroba budúceho problému.
- Je použitie reverzibilné? Ak sa organizácia prestaví tak, že bez dodávateľa Ai už nevie fungovať, nejde o nástroj, ale o závislosť.
- Kto z nasadenia profituje a kto nesie skryté náklady? Ak profituje manažment a dodávateľ, zatiaľ čo náklady nesú pracovníci, zákazníci a verejnosť, nejde o inováciu, ale o extrakciu.
Toto nie sú technické otázky. Sú politické, ekonomické a kultúrne. A práve preto ich technologické firmy nechcú riešiť.
Keď totiž techno-optimisti hovoria o LLM ako o novej priemyselnej revolúcii, ignorujú fakty. Prvá a druhá priemyselná revolúcia boli skutočnými technologickými skokmi, vďaka ktorým naša civilizácia narástla z jednej na osem miliárd ľudí. Nástup LLM je však primárne politická revolúcia asíce model postavený na kleptokratickom vyťažení ľudských dát. Kým predchádzajúce revolúcie tvorili podmienky pre život a rast, táto nová, poháňaná syntetickou ilúziou, vytvára dokonalé podmienky pre spoločenský kolaps.
Zdroje
Cory Doctorow
AI Now Institute
Cal Newport
Komentáre ()