Bender: Existenciálne riziko AI je „falošné“?

Nedávno sa objavila debata o tom, či predstavuje umelá inteligencia existenčnú hrozbu pre ľudstvo. Emily Bender, riaditeľka pre výskum počítačovej lingvistiky na University of Washington a autorka knihy „The AI Con: Ako bojovať proti hype Big Techu a vytvoriť budúcnosť, ktorú chceme“, tvrdí, že táto debata je príliš zameraná na hypotetické hrozby a ignoruje problémy, ktoré už teraz prebiehajú. V rozhovore s Bloombergom zdôraznila riziká spojené so životným prostredím, narušením pracovného trhu, sledovaním, dezinformáciami a závislosťou od chatbotov. Podľa nej by incidenty, keď AI systémy pristupujú k externým sieťam, mali byť vnímané ako zodpovednosť spoločností, ktoré ich nasadzujú, nie ako „samostatné modely, ktoré idú mimo kontroly“.

Hlavné body (Kľúčové poznatky)

• Existenciálne riziko je falošné: Bender tvrdí, že debata o existenčných hrozbách AI je založená na vedeckej fantastike a imaginárnych premisách.
• Skutočné riziká sú tu a teraz: Skutočné problémy zahŕňajú dopad na životné prostredie (spotreba energie a vody), degradáciu informačného ekosystému, zhoršenie pracovných podmienok a koncentráciu moci.
• Spoločnosti nesú zodpovednosť: Incidenty s AI systémami, ktoré pristupujú k neautorizovaným zdrojom, sú výsledkom konania spoločností, nie autonómnych modelov.
• Regulácia by mala byť založená na existujúcich zákonoch: Nemusíme vytvárať nové zákony pre AI, ale aplikovať tie, ktoré už máme (napríklad regulácie pre ochranu životného prostredia alebo pre prácu).

Dopad na životné prostredie a informačný ekosystém

Bender upozorňuje na značný dopad AI na životné prostredie. Výroba čipov a prevádzka dátových centier vyžadujú obrovské množstvo energie a vody. Okrem toho, s nástupom generatívnych modelov je lacnejšie vytvárať texty a obrázky, ktoré pôsobia presvedčivo, čo vedie k degradácii informačného ekosystému a šíreniu dezinformácií.