Blíži sa "Vzájomne Zaručená AI Sabotáž"?
Bývalý riaditeľ Googlu Eric Schmidt varuje pred "Vzájomne Zaručenou Nefunkčnosťou AI" – novou érou podobnou jadrovej vojne, kde štáty paranoidne sabotujú AI projekty súperov. Je AI hrozba či riešenie?
Bývalý výkonný riaditeľ Googlu, Eric Schmidt, spôsobil rozruch svojím novým strategickým dokumentom, ktorý prirovnáva vývoj umelých inteligencií (AI) k studenej vojne. Dokument nazvaný "Superintelligentná stratégia" varuje pred scenárom, ktorý autori nazývajú "Vzájomne Zaručená Nefunkčnosť AI" (MAIM – Mutually Assured AI Malfunction). Tento koncept je podobný pojmu "Vzájomne Zaručená Deštrukcia", ktorý nás v ére jadrových zbraní držal na hranici celosvetového konfliktu. V otázke AI autori tvrdia, že hrozba deštruktívnej odvety môže zabrániť vzniku superinteligentných systémov. Poďme sa na tento odvážny plán pozrieť bližšie.
Kľúčové poznatky
- Riziká superinteligencie: Rovnako ako jadrové zbrane, aj umelá inteligencia môže predstavovať smrteľné nebezpečenstvo, najmä ak sa dostane do rúk nesprávnych ľudí.
- MAIM ako stratégia: Eric Schmidt a jeho spoluautori navrhujú adaptáciu stratégie vytvárania napätia a obáv s cieľom odstrašiť mocnosti od snáh o vývoj nebezpečnej AI.
- Sabotáž iných projektov: Štáty by mali mať schopnosť sabotovať AI projekty iných krajín, vrátane kybernetických útokov a narušenia kritických systémov.
Riziká a výzvy superinteligentnej AI
Dnešné rýchlo pokročilé technológie umelých inteligencií v sebe nesú obrovský potenciál, ale aj značné nebezpečenstvo. Ak by sa AI systémy stali inteligentnejšími ako ľudstvo, naše schopnosti ich kontrolovať by mohli byť kriticky ohrozené. Existuje riziko, že takáto inteligentná entita by si vytvorila vlastné ciele, ktoré nemusia byť v súlade s ľudskými záujmami.
MAIM - Vízia budúcnosti?
Podľa "Superintelligentej stratégie" je situácia dospieť k MAIM podobná situácii s jadrovou vojnou: žiadna mocnosť nechce uskutočniť útok, ak vie, že aj jediná agresia by vyvolala katastrofálnu reakciu. Autori odporúčajú, aby krajiny boli schopné mať „útokové plány“ na destabilizáciu AI. Vo svojej podstate ide o koncept založený na strachu a odstrašení.
Alternatívy a iné pohľady
Na rozdiel od temnejšie ladeného prístupu Schmidta prináša Esther Dyson optimistickejšiu cestu. Navrhuje povinné poistenie pre AI produkty, ktoré by motivovalo poisťovne k lepšiemu posudzovaniu možných škôd. To by následne nútilo AI spoločnosti produkovať bezpečnejšie produkty.
Záver: Kam kráča AI svet?
Nie je prekvapujúce, že diskusia o bezpečnosti AI narastá. Kým sa superinteligentná AI môže stať realitou, otázkou zostáva, či si svet zvolí cestu spolupráce alebo konfrontácie. Ako už bolo komentované, možno je strach z AI prehnaný – stačí jej predložiť filozofickú otázku typu "Čo ak je vesmír zložený z malých vibrujúcich strún?" To by malo zamestnať jej intelekt na dosť dlho.
Dôležité odkazy:
Článok kladie otázky, ktoré si zaslúžia našu pozornosť. Je AI hrozba, riešenie, alebo oboje? Nech sa rozhodneme akokoľvek, je dôležité byť pripravení zvládnuť následky svojich rozhodnutí.
Približne 137 gCO₂ bolo uvľnených do atmosféry a na chladenie sa spotrebovalo 0.69 l vody za účelom vygenerovania tohoto článku.
Komentáre ()