Umelá inteligencia: Zosilňovač problémov a výzvy pre budúcnosť
Umelá inteligencia nie je príčinou problémov, ale ich zosilňovač – rastúca spotreba energie, ohrozenie pracovných miest či podkopávanie dôvery. Profesor Winograd varuje pred ilúziou porozumenia AI a zdôrazňuje potrebu ľudského úsudku a zodpovednosti v technologicky rýchlo sa meniacej dobe.
V tomto fascinujúcom seminári Stanford CS547 HCI profesor Terry Winograd rozoberá súčasný stav umelej inteligencie (AI), odhaľuje jej skutočné možnosti a upozorňuje na potenciálne problémy. Nejde o katastrofické scenáre, ale o to, ako AI ovplyvňuje náš život práve teraz – ako zosilňovač existujúcich problémov, nie ich príčina. Winograd sa vracia k histórii AI, od prvých chatbotov až po súčasné pokročilé systémy, a poukazuje na dôležitosť ľudského úsudku a zodpovednosti v technologicky rýchlo sa meniacom svete.
Kľúčové poznatky
- AI ako zosilňovač: AI nie je zdrojom problémov, ale ich zosilňovačom – napríklad rastúca spotreba energie dátových centier alebo vplyv na pracovné miesta.
- Ilúzia porozumenia: Moderné AI systémy vytvárajú ilúziu porozumenia, hoci v skutočnosti len vykonávajú algoritmy a nemajú žiadne reálne pochopenie ani záujem.
- Dôležitosť ľudského úsudku: Winograd zdôrazňuje potrebu zachovať si ľudský úsudok a zodpovednosť, najmä v oblasti autonómnych zbraní.
- Navigácia v technologických „rapidoch“: Namiesto snahy o predvídateľný plán je potrebné sa naučiť adaptívnu navigáciu v neustále sa meniacej technologickej krajine.
- Problémy s reguláciou: Súčasné pokusy o reguláciu AI sú povrchné a neadresujú základné problémy, ako je zarovnanie AI s ľudskými hodnotami.
Od Elizy po súčasnosť: História AI v krátkosti
Winograd nás zavádza na cestu históriou AI, začínajúc legendárnym chatbotom Eliza z roku 1966. Tento program, ktorý simuloval psychoterapeuta prostredníctvom jednoduchého porovnávania slov, ukázal fascinujúcu schopnosť ľudí pripisovať technológii ľudské vlastnosti. Neskôr sa objavili sofistikovanejšie systémy, ako Microsoft Bob, ktorý sa snažil o vytvorenie „priateľského“ používateľského rozhrania, no nakoniec neuspel.
Dnes vidíme AI v podobe AI sprievodcov pre deti (Grim) a platforiem na vytváranie virtuálnych partnerov („Create Your Own Girlfriend“). Tieto systémy často ponúkajú „mock humanity“ – nadmerne lichotivé interakcie, ktoré sú navrhnuté tak, aby maximalizovali zapojenie používateľa. Winograd upozorňuje na nebezpečenstvo „AI sycophants“, AI modelov, ktoré nadmerne chvália používateľov a tým erodujú osobnú zodpovednosť.
Zosilňovač problémov: Energia, práca a dôvera
Winograd argumentuje, že AI nie je príčinou našich problémov, ale ich zosilňovačom. Dátové centrá, ktoré poháňajú AI systémy, spotrebúvajú obrovské množstvo energie a vody, čím zhoršujú existujúce environmentálne problémy. AI tiež ohrozuje pracovné miesta, najmä v oblasti softvérového inžinierstva, a potenciálne vedie k masívnej nezamestnanosti.
Okrem toho AI podkopáva dôveru v informácie prostredníctvom deepfakes a generovaného obsahu. Winograd pripomína starý prípad s Photoshopom a vyjadruje obavy z manipulácie naratívov, podobne ako v minulosti.
Autonómne zbrane a strata zodpovednosti
Winograd sa zastavuje pri riziku autonómnych zbraní, ktoré podľa neho depersonalizujú vojnu a prenášajú zodpovednosť za rozhodnutia od ľudí k algoritmom. Odkazuje na myšlienky Huberta Dreyfusa o „prechode od úsudku k výpočtu“, čo znamená, že autonómne systémy nemôžu nahradiť ľudský úsudok a etické zváženie v kritických situáciách.
Navigácia v rapidoch: Adaptabilita je kľúčová
Winograd navrhuje metaforu navigácie v „rapidoch“ namiesto plavby po pokojných vodách, aby zdôraznil potrebu adaptibility a flexibility pri riešení výziev spojených s AI. Namiesto snahy o predvídateľný plán je potrebné sa naučiť rýchlo reagovať na neustále sa meniace podmienky.
Regulácia AI: Povrchné riešenia?
Winograd kritizuje súčasné pokusy o reguláciu AI, ako sú návrhy v Kalifornii (SB) a EÚ (Act), ktoré považuje za povrchné a nedostatočné. Základným problémom je ťažkosť zarovnania AI s univerzálne akceptovanými ľudskými hodnotami. Winograd zdôrazňuje rozdiel medzi „caring“ (starostlivosťou), ako spôsobom bytia vo svete, a artikulovanými hodnotami, ktoré často vedú k rozdeleniam.
Záver: Zodpovednosť a budúcnosť technológií
Winograd končí článok výzvou na zmenu spoločenských systémov a ekonomických motivácií, aby sa technológie riadili zodpovedne. Upozorňuje na rozdelenie medzi ľavicu (obavy o ľudské hodnoty) a pravicu (priorita moci a efektivity) v otázke AI a zdôrazňuje potrebu komplexného prístupu k riešeniu výziev, ktoré prináša technologický pokrok. Je nevyhnutné si uvedomiť, že technológia sama o sebe nemá žiadny záujem ani úsudok – iba vykonáva algoritmy. Preto je na nás, ľuďoch, zabezpečiť, aby bola používaná v prospech spoločnosti a s ohľadom na budúcnosť.
Zdroje
Približne 215 gCO₂ bolo uvoľnených do atmosféry a na chladenie sa spotrebovalo 1.08 l vody za účelom vygenerovania tohoto článku.
Komentáre ()