Umelá inteligencia: Kontrola AI je najväčší problém

Peter Norvig, renomovaný odborník na umelú inteligenciu a spoluautor učebnice „Artificial Intelligence: A Modern Approach“, v rozhovore pre Turing Post TV načrtol kľúčové výzvy a príležitosti, ktoré nás čakajú v ére AI. Od počiatočného skepticizmu voči internetu až po súčasné obavy z koncentrácie moci v rukách obmedzeného počtu spoločností, Norvig ponúka pohľad na budúcnosť AI, ktorý je zároveň optimistický a realistický. Rozoberá vývoj agentov, význam jazykových modelov ako „modelov sveta“ a potrebu prechodu k neurosymbolickej AI, ktorá kombinuje silné stránky neurálnych sietí s logickým uvažovaním.

Kľúčové poznatky (Kľúčové myšlienky)

• Technologická demokratizácia: Norvig zdôrazňuje, že prístup k pokročilým technológiám sa stáva dostupnejším vďaka softvérovým nástrojom.
• Zmena paradigmy v AI vzdelávaní: Jeho učebnica predstavila posun od logiky k pravdepodobnosti a začlenenie strojového učenia, čo je dnes štandardom.
• Návrat agentov: AI sa vracia k konceptu „agentov“, ktorí interagujú v swarmoch (úľoch) namiesto jednotlivých entít.
• Jazykové modely ako modely sveta: Jazykové modely ukazujú prvky porozumenia realite, ale potrebujú zlepšenia.
• Obavy z koncentrácie moci: Norvig vyjadruje obavy z potenciálneho narušenia globálnej rovnováhy moci v dôsledku AI.
• Optimistický pohľad na distribuovanú moc: Verí, že vývoj AI nebude dominovaný len niekoľkými veľkými spoločnosťami.
• Zmena v oblasti CS vzdelávania: Potreba zamerať sa na formuláciu problémov namiesto ich riešenia a prehodnotenie metód hodnotenia študentov.

Vývoj AI: Od skepticizmu k agentom

Norvig spomína, že kedysi pochyboval o tom, či firmy dokážu využívať internet vo veľkom meradle kvôli technickej náročnosti. Uvedomil si však, že softvérové nástroje zjednodušia prístup a umožnia široké nasadenie. Dôležité je podľa neho počúvať potreby koncových používateľov namiesto ponárania sa do detailov technológií.