AI a budúcnosť: Pohľad Yuvala Noaha Harariho
AI môže ovládnuť finančný systém, manipulovať prostredníctvom „masovej intímnosti“ a ohroziť demokraciu. Yuval Noah Harari varuje pred nekontrolovaným vývojom AI a potrebuje politickú reguláciu na ochranu ľudstva.
Už ste niekedy videli, ako sa Mickey Mouse snaží ovládať kadernícke čarovné metly v Disneyovskej rozprávke Kúzelník zo zeme Oz? Podobne ako v tej rozprávke, aj vývoj umelej inteligencie (AI) môže viesť k nepredvídaným a potenciálne katastrofálnym následkom. V nedávnom rozhovore s Robertom Guestom to tvrdí Yuval Noah Harari, autor knihy Nexus. AI má obrovský potenciál – môže nám pomôcť riešiť globálne problémy ako klimatické zmeny alebo nájsť liek na rakovinu – ale zároveň predstavuje vážne riziká. Ako sa teda môžeme uistiť, že AI bude slúžiť ľudstvu a nie naopak?
Kľúčové Zistenia
- AI je viac než len „metla“: Učí sa a vyvíja sa nad rámec toho, čo jej tvorcovia pôvodne naprogramovali.
- Finančný systém pod kontrolou AI: Vzhľadom na schopnosť AI spracovávať obrovské množstvo dát a pracovať nepretržite, je pravdepodobné, že čoskoro bude riadiť finančné systémy.
- Manipulácia s pomocou „masovej intímnosti“: AI dokáže vytvárať presvedčivé správy šité na mieru pre každého jednotlivca, čo otvára dvere bezprecedentnej manipulácii.
- Ohrozenie demokracie: Zníženie dôvery v pravdu a rastúca závislosť od AI ako „univerzálneho veštca“ môžu viesť k pádu demokratických systémov.
- Politická akcia je nevyhnutná: Regulácia AI, zákaz právnej osoby pre AI a kolektívne konanie malých národov sú kľúčové na zvládnutie rizík spojených s AI.
AI: Od Pomoci po Hrozbu?
Harari prirovnal vývoj AI k situácii v rozprávke Kúzelník zo zeme Oz, kde Mickey Mouse stratí kontrolu nad čarovnou metlou a tá začne nekontrolovane pumpovať vodu do celého domu. Podobne, aj AI môže priniesť obrovský pokrok, ale zároveň sa vymkne spod kontroly.
