Môžeme zakódovať etiku do strojov? Reflexie Dily Şen

V dnešnej rýchlo sa meniacej technologickej krajine čelíme zásadným otázkam o budúcnosti umelej inteligencie. V zaujímavej prednáške na TEDxEsade Salon Dila Şen skúma morálne výzvy spojené s programovaním etiky do strojov, od samoriadiacich automobilov až po autonómne zbrane. Jej analýza nás núti zamyslieť sa nad zodpovednosťou, hodnotami a tým, ako tieto faktory ovplyvňujú budúcnosť ľudstva.

Kľúčové poznatky

• Etické dilemy v strojoch: Şen poukazuje na to, že keď stroje čelia rozhodnutiam o živote a smrti (napríklad samoriadiace automobily alebo autonómne zbrane), vzniká otázka, kto je za tieto rozhodnutia zodpovedný.
• Problém trolla: Prednášateľka pripomína klasický filozofický problém trolla ako metaforu pre etické dilemy, s ktorými sa stretávajú stroje. Ukazuje, že neexistuje jednoduché riešenie a naše hodnoty sú často subjektívne a závislé od kontextu.
• Outsourcing svedomia: Şen varuje pred nebezpečenstvom outsourcovania nášho morálneho úsudku algoritmom, čo môže viesť k strate ľudskej zodpovednosti.
• Dôležitosť definície etiky: Podľa Şen je skutočnou výzvou nielen zakódovanie etických hodnôt do strojov, ale predovšetkým dohoda o tom, aká etika má byť zakódovaná.

Samoriadiace automobily a autonómne zbrane: Etické hrozby na horizonte

Predstavte si situáciu: idete v samoriadiacom aute a náhle dieťa vybehne do cesty. Auto má dve možnosti – buď sa zraziť do steny a ohroziť váš život, alebo pokračovať v jazde a zasiahnuť dieťa. Kto rozhoduje o tom, čo auto urobí? Programátor, spoločnosť, ktorá ho vyrába, alebo samotný algoritmus?

Podobné otázky sa vynárajú aj pri autonómnych zbraniach, ktoré dokážu identifikovať, vybrať a zaútočiť na ciele bez priamej ľudskej kontroly. Hoci podporovatelia tvrdia, že môžu zachrániť životy vojakov, kritici varujú pred prechodom nezvratnej morálnej hranice, keď algoritmy rozhodujú o živote a smrti.

Problém trolla: Filozofická hádanka s reálnymi dôsledkami

Şen poukazuje na filozofický problém trolla ako metaforu pre etické dilemy, ktorým čelia stroje. V klasickej verzii problému musí človek rozhodnúť, či presmerovať nekontrolovateľný vozík na koľajach, kde je päť ľudí, alebo nechať ho pokračovať a zabiť ich. Ak presmeruje vozík, uškodí iba jednému človeku na vedľajšej koľaji.

Şen zdôrazňuje, že tento problém nemá jednoduché riešenie. Zmenou kontextu – napríklad ak je jediný človek na vedľajšej koľaji váš najlepší priateľ alebo ak ide o päť homárov a jedno mačiatko – sa mení aj náš úsudok. To ukazuje, že naše etické rámce sú subjektívne a závislé od vzťahov, emócií a hodnôt, ktoré priraďujeme rôznym entitám.

Outsourcing svedomia: Nebezpečenstvo algoritmickej zodpovednosti

Şen varuje pred nebezpečenstvom outsourcovania nášho morálneho úsudku algoritmom. Poukazuje na experiment Stanleyho Milgrama, ktorý ukázal, ako ľahko ľudia podliehajú autorite a ignorujú svoj vlastný zmysel pre správne a nesprávne, ak im to nariadi osoba v uniforme.

Podľa Şen sa algoritmy stávajú novou formou autority a keď stroje robia rozhodnutia, máme tendenciu ich považovať za konečné a optimálne, aj keď sú fundamentálne zlé.

Hľadanie etických rámcov: Od zákonov po strojovú etiku

Şen zdôrazňuje potrebu vytvoriť jasné etické rámce pre stroje. Niektoré prístupy sa zameriavajú na dodržiavanie zákona a minimalizáciu diskriminácie, zatiaľ čo iné preskúmajú možnosť "strojovej etiky" – AI systémov, ktoré dokážu rozpoznávať morálne dilemy a uvažovať o hodnotách ako ľudia.

Avšak Şen upozorňuje, že skutočnou výzvou je nielen zakódovanie etických hodnôt do strojov, ale predovšetkým dohoda o tom, aká etika má byť zakódovaná.

Odpoveď na správnu otázku: Etika ako odraz ľudstva

Şen sa inšpiruje knihou „Sprievodca galaxiou pre autostopárov“ a tvrdí, že možno pýtame zlé otázky. Namiesto toho, aby sme sa pýtali, či môžeme zakódovať etiku do strojov, by sme sa mali pýtať: akú etiku chceme, aby stroje odrážali?

Podľa Şen AI je v mnohých ohľadoch zrkadlo pre nás – učí sa z našich dát, rozhodnutí a predsudkov. Preto je kľúčové, aby sme si definovali naše hodnoty a zabezpečili, že stroje ich budú odrážať.

Záver: Budúcnosť etiky v rukách ľudstva

Şen končí svojou rečou citátom zakladateľa Tureckej republiky Mustafu Kemala Atatürka: „Ideálny človek je ten, ktorý používa svoju inteligenciu a znalosti na prospech ľudstva.“ Podčiarkuje, že mierkou civilizácie nie je len inteligencia, ale aj to, ako ju používame.

Zakódovanie etiky do strojov nie je len technickou výzvou, ale ultimátnou skúškou toho, kým sme a kým sa chceme stať ako ľudstvo.

Dôležité odkazy:

• TEDxEsade Salon: https://www.ted.com/tedx

Približne 180 gCO₂ bolo uvoľnených do atmosféry a na chladenie sa spotrebovalo 0.90 l vody za účelom vygenerovania tohoto článku.