Medzery v zodpovednosti umelej inteligencie: Kto je zodpovedný?

Umelá inteligencia (AI) sa stáva čoraz dôležitejšou súčasťou nášho života. Používame ju na rôzne účely – od vyhľadávania informácií po písanie textov a dokonca aj v medicíne. Ale čo sa stane, keď AI urobí chybu alebo spôsobí škodu? Kto je za to zodpovedný? Toto sú otázky, ktorým sa venoval nedávny seminár „AI Accountability Dialogue“ od Národného kompetenčného centra pre HPC. V tomto článku si zhrnieme kľúčové poznatky a povieme si, ako môžeme zabezpečiť, aby sme boli pri používaní AI zodpovední.

Kľúčové poznatky

Seminár sa zameral na tzv. medzery v zodpovednosti – situácie, keď vznikne škoda, ale nie je jasné, kto za ňu má niesť zodpovednosť. Hlavnými problémami sú nedostatok kontroly nad AI systémami a nedostatočné porozumenie ich fungovania. Diskusia sa dotkla rôznych aspektov, od technických výziev pri kontrole modelov až po etické otázky spojené s ich používaním v rôznych oblastiach života.

Pochopenie medzier v zodpovednosti

Podľa Matieho práce, z ktorej vychádza koncept „medzier v zodpovednosti“, vzniká problém, keď sa stroje správajú spôsobom, ktorý je ťažké predvídať a kontrolovať. Problém spočíva v tom, že často nemáme dostatočnú kontrolu nad tým, čo AI robí, a tiež nevieme presne, ako funguje („nikto nemá dosť znalostí“). To platí nielen pre negatívne, ale aj pre pozitívne výsledky. Ak teda niekto mal byť zodpovedný za škodu spôsobenú AI, ale nikto to nakoniec nie je, vzniká „medzera v zodpovednosti“.

Technické výzvy a príklady z praxe

Yaros Lopchan poukázal na technické problémy spojené s kontrolovaním AI modelov, najmä tých uzavretých (closed-source). Príkladom je nedávny incident s generátorom obrázkov Gro, ktorý produkoval sexualizované obrazy napriek bezpečnostným opatreniam. To ukazuje, že aj keď sa snažíme nastaviť ochranné mechanizmy, AI môže stále produkovať škodlivý obsah.

Ako môžeme zlepšiť zodpovednosť?

Existuje niekoľko spôsobov, ako sa s tým vysporiadať:

• „Poznaj svojho zákazníka“ (KYC) pre AI: Podobne ako v bankovníctve, kde je potrebné overiť totožnosť klienta, aj pri interakciách s AI by sme mali mať mechanizmy na identifikáciu používateľa.
• Monitorovanie vstupu a výstupu: Kontrola toho, čo do AI vstupuje a čo z nej vychádza, môže pomôcť odhaliť potenciálne problémy.
• Mechanistická interpretovateľnosť: Výskum, ktorý sa snaží „rozlúštiť“, ako AI modely fungujú (tzv. mechanistická interpretovateľnosť), je kľúčový pre lepšie pochopenie a kontrolu. Ide o identifikáciu obvodov v modeloch, ktoré vykonávajú špecifické výpočty.
• Role-based zodpovednosť: Keďže AI začína zastávať rôzne role (napríklad priateľa alebo terapeuta), musíme definovať očakávania a požiadavky na jej správanie.

Výzvy v oblasti alignmentu a jailbreakov

Aktuálne techniky „alignmentu“ – snahy zladiť AI s hodnotami a cieľmi ľudí – sú často nestabilné. Malé zmeny v podnetoch alebo tzv. jailbreaky (triky na obchádzanie bezpečnostných opatrení) môžu spôsobiť, že model sa správa nepredvídateľne a neeticky.

Vicarious zodpovednosť a budúcnosť AI

Daniel poukázal na koncept vicarious zodpovednosti – zodpovednosti za konanie iného človeka alebo entity (napríklad zamestnávateľa za svojho zamestnanca). Tento princíp by sa mohol aplikovať aj na výrobcov AI, prípadne prostredníctvom AI avatarov.

Vzdelávanie a otvorený zdrojový kód

Podstatné je zvyšovanie povedomia o AI (AI literacy) prostredníctvom vzdelávania, najmä v školách. Diskusia sa dotkla aj paradoxu otvoreného zdrojového kódu – zatiaľ čo umožňuje širší prístup a inovácie, môže tiež uľahčiť zneužitie modelov.

Záver: Proaktívny prístup k zodpovednosti AI

Zodpovednosť pri používaní AI si vyžaduje proaktívne opatrenia a včasné riešenie problémov, nie len reakciu po škode. Je dôležité neustále monitorovať systémy, zlepšovať ich porozumenie a prispôsobovať sa novým výzvam, ktoré s sebou AI prináša. Len tak môžeme zabezpečiť, aby AI slúžila ľuďom a spoločnosti bezpečným a zodpovedným spôsobom.

Zdroje

• Originálne video

Približne 201 gCO₂ bolo uvoľnených do atmosféry a na chladenie sa spotrebovalo 1.01 l vody za účelom vygenerovania tohoto článku.