Bude nás umelá inteligencia ovládnuť?
Bude nás umelá inteligencia ovládnuť? Profesor Jones skúma históriu ľudských obáv z technológií, paralely s hľadaním "overlordov" a súčasný boom AI. Zdôrazňuje potrebu kritického myslenia a zodpovedného vývoja.
Prednáška profesora Matta Jonesa, súčasného profesora informačných technológií na Gresham College, sa zaoberala znepokojivou otázkou: bude nás umelá inteligencia (AI) ovládnuť? Jones nielenže prešiel históriou ľudských obáv z nových technológií, ale aj poukázal na fascinujúce paralely medzi našimi reakciami na AI a historickými snahami o hľadanie "overlordov" – či už bohov, kráľov alebo impérií. Prednáška ponúka pohľad na súčasný boom v oblasti AI, ktorý je podľa Jonesa len ďalšou fázou cyklického vývoja, a zároveň zdôrazňuje potrebu kritického myslenia a pochopenia skutočných dopadov týchto technológií.
Kľúčové poznatky z prednášky
- Historické obavy: Strach z AI nie je nový fenomén; ľudstvo má dlhú históriu obáv z nových technológií a ich potenciálneho vplyvu na spoločnosť.
- AlphaGo a Lee Sedol: Porážka šachového grandmastera Lee Sedola systémom AlphaGo odhalila hlboké psychologické dopady AI, vyvolávajúce pocity bezmocnosti a hanby.
- Stanford 100-ročná štúdia: Štúdia predpovedá, že roboty prekonajú ľudských šampiónov v komplexných hrách do roku 2050 a AI prekonať všetkých vedcov a profesorov do roku 2050.
- Antropomorfizmus: Tendencia pripisovať strojom ľudské vlastnosti (antropomorfizmus) môže viesť k neopodstatnenej dôvere v AI, ako to ukázal Joseph Weizenbaum so svojím chatbotom Eliza.
- Boom a bust cykly: Súčasný nadšenie pre AI je súčasťou opakujúceho sa cyklu boomu a krachu v oblasti vývoja AI.
- Zmena paradigmy: Moderné "foundation modely" AI, založené na obrovských dátových súboroch a architektúre transformátorov, predstavujú zásadnú zmenu oproti starším, pravidlami riadeným systémom, ktoré boli ľahšie zrozumiteľné.
Od Everestu po AlphaGo: Čo znamená "prekonať" ľudstvo?
Jones začal svojou prednáškou pripomienkou pozoruhodných ľudských úspechov – od prvého výstupu na Mount Everest až po pristátie na Mesiaci, cez majstrovské diela umelcov a športové rekordy. Tieto úspechy sú výsledkom desaťročí usilovnej práce, inovácií a ľudského ducha. Potom sa zamyslel nad tým, čo by mohol vyzerať "pantheon" AI – aké výnimočné schopnosti by musela AI demonštrovať, aby bola považovaná za rovnocennú alebo dokonca lepšiu ako človek? Porážka Lee Sedola AlphaGoom však vyvolala znepokojivé otázky. Prečo vytvárať systémy, ktoré u ľudí vyvolávajú pocity hanby a bezmocnosti?
Názory na dopad umelej inteligencie na spoločnosť v nasledujúcich 20 rokoch.
História "overlordov" a súčasné obavy z AI
Jones poukázal na to, že ľudstvo má dlhú históriu hľadania autorít – od bohov a kráľov až po impériá. Súčasné obavy z AI sú podľa neho len ďalšou iteráciou tejto tendencie, kde vidíme v AI potenciálneho "overlorda", ktorý nás môže prekonať a ovládnuť. Je to strach z toho, že stratíme kontrolu nad vlastnou budúcnosťou?
Antropomorfizmus a riziko neopodstatnenej dôvery
Prednáška sa venovala aj fenoménu antropomorfizmu – tendencii pripisovať strojom ľudské vlastnosti. Jones upozornil na prácu Josepha Weizenbauma, ktorý varoval pred nebezpečenstvom nadmernej dôvery v skoré chatboty ako Eliza. Eliza, napriek svojej jednoduchosti, dokázala presvedčiť ľudí o tom, že s nimi vedie skutočný rozhovor, čo viedlo k neopodstatnenej dôvere a potenciálnemu zneužívaniu.
Cyklický vývoj AI: Boom a bust
Jones zdôraznil, že súčasný boom v oblasti AI nie je nič nové. Je to len ďalšia fáza cyklického vývoja, ktorý sa opakuje už desiatky rokov. Predchádzajúce vlny nadšenia pre AI skončili sklamaním, keďže očakávania neboli splnené.
Globálny ročný počet hlásených incidentov a kontroverzií týkajúcich sa umelej inteligencie
Je dôležité si uvedomiť, že súčasný pokrok v oblasti AI je len jedným krokom na dlhej ceste a nie je zaručené, že povedie k okamžitej transformácii spoločnosti.
Nový paradigmu: Foundation modely a ich neprehľadnosť
Prednáška sa venovala aj zásadnej zmene v architektúre AI systémov. Moderné "foundation modely" využívajú obrovské množstvo dát a komplexnú architektúru transformátorov, čo vedie k výrazne lepším výsledkom, ale zároveň ich robí menej transparentnými a zrozumiteľnými. Na rozdiel od starších, pravidlami riadených systémov je ťažké pochopiť, ako tieto modely dospievajú k svojim rozhodnutiam.
Záver: Kritické myslenie a zodpovedný vývoj AI
Jones uzavrel svoju prednášku apelom na kritické myslenie a zodpovedný vývoj AI. Je potrebné si uvedomiť potenciálne riziká, ale zároveň nepremeškať príležitosti, ktoré AI ponúka. Dôležité je venovať pozornosť etickým aspektom a zabezpečiť, aby AI slúžila ľuďom a nie naopak.
Globálne názory na dopad umelej inteligencie na spoločnosť v nasledujúcich 20 rokoch podľa demografickej skupiny.
Odporúčané odkazy:
- The Atlas of AI: Kate Crawford - kniha skúmajúca skutočné dopady a geografiu technológií AI.
- Stanford 100-Year Study of Artificial Intelligence: Štúdia predpovedajúca budúcnosť AI a jej vplyv na ľudstvo. (https://hai.stanford.edu/research/100-year-study)
Hodnotenie článku:
Bude nás umelá inteligencia ovládnuť?
Knihy v článku
Približne 169 gCO₂ bolo uvoľnených do atmosféry a na chladenie sa spotrebovalo 0.85 l vody za účelom vygenerovania tohoto článku.
Komentáre ()