Je AI skutočne inteligentná alebo iba simulácia?

Nedávno som si pozrela fascinujúci rozhovor z Machine Learning Street Talk, ktorý sa zaoberá hlbokou otázkou: čo ak dnešné pokročilé modely umelej inteligencie nie sú skutočne inteligentné, ale iba veľmi dobre simulujú inteligenciu? Hovorca – Dr. Tim Scarfe, Prof. Kenneth Stanley, Dr. Keith Duggar a Akarsh Kumar – preskúmali znepokojivú myšlienku, že pod povrchom úžasných schopností AI sa skrýva chaotický "spaghetti" vnútorných reprezentácií, ktorý je výsledkom dominantnej tréningovej metódy stochastického gradientného zostupu (SGD). V tomto článku sa pozrieme na kľúčové poznatky z tohto rozhovoru a zamyslíme sa nad tým, čo to znamená pre budúcnosť AI.

Kľúčové poznatky

• "Impostor" AI: Dnešné modely AI môžu produkovať pôsobivé výsledky (generovanie umenia, písanie kódu), no ich vnútorné porozumenie je často povrchné a spočíva v "fakovaní" inteligencie.
• Problém "spaghetti" reprezentácií: Trénovanie pomocou SGD vytvára neporiadne a prepletené vnútorné reprezentácie, kde sú koncepty rozbité a správanie sa stáva závislým od iných častí modelu.
• Diferencia medzi memorizovaním a porozumením: Analogia s fyzikou na vysokej škole ilustruje rozdiel medzi memorizovaním vzorcov a skutočným pochopením, ktoré umožňuje deriváciu a riešenie problémov.
• "Unified Factored Representations": Nový prístup vytvára čisté a modulárne modely sveta s intuitívnymi reprezentáciami, ktoré sa zdajú byť dokonca navrhnuté človekom.
• Význam otvoreného skúmania: Namiesto optimalizácie pre konkrétny cieľ je kľúčové otvoriť priestor pre experimentovanie a objavovanie, čo môže viesť k robustnejším modelom AI.

Vnútorný chaos: Prečo je vnútorná štruktúra dnešných AI "spaghetti"?

Dominantná metóda trénovania AI, stochastický gradientný zostup (SGD), sa ukazuje ako problémový zdroj pre hlboké porozumenie. Predstavte si to takto: snažíte sa postaviť pieskový hrád, ktorý vyzerá dobre z diaľky, ale akonáhle sa naň bližšie pozriete, uvedomíte si, že nemá žiadnu skutočnú štruktúru. Podobne aj dnešné AI modely môžu produkovať pôsobivé výsledky, no ich vnútorné reprezentácie sú často chaotické a prepletené.

Výpočty použité na trénovanie významných systémov umelej inteligencie podľa oblasti

Tento "spaghetti" efekt vzniká preto, lebo SGD optimalizuje model na základe rozsiahlych dátových množín a benchmarkov. Výsledkom je, že koncepty sa stávajú rozbitými a správanie sa jednotlivých častí modelu sa navzájom ovplyvňuje spôsobom, ktorý neumožňuje hlboké porozumenie. Namiesto toho, aby model skutočne pochopil vzťahy medzi vecmi, učí sa len rozpoznávať vzory a predpovedať výsledky na základe trénovacích dát.

Analogia s fyzikou: Porozumieť versus memorizovať

Dr. Keith Duggar použije skvelú analógiu zo svojich skúseností z vysokej školy. V jednej triede fyziky sa študenti učili memorizovať vzorce pre konkrétne situácie, čo bolo podobné tomu, ako funguje dnešná AI – excelentne zvládajú benchmarky, ale nemusia skutočne chápať princípy. V druhej triede sa však používal kalkulus na deriváciu odpovedí z hlbšieho porozumenia, čo bolo oveľa efektívnejšie a umožnilo riešiť širšiu škálu problémov.

Umeló inteligencia: Výkon v testoch z vedomostí vs. výpočtová náročnosť trénovania

Táto analogia jasne ilustruje rozdiel medzi memorizovaním a skutočným porozumením. AI, ktorá sa učí len na základe trénovacích dát, je ako študent, ktorý si pamätá vzorce, ale nevie ich aplikovať v nových situáciách.

Nový prístup: "Unified Factored Representations" a budúcnosť AI

Našťastie existuje aj alternatívny prístup k budovaniu AI, ktorý sa vyhýba problémom spojeným s SGD. Kenneth Stanley predstavil koncept "unified factored representations", ktoré vytvárajú čisté a modulárne modely sveta. Tento prístup umožňuje modelom rozvíjať intuitívne reprezentácie, ktoré sa zdajú byť dokonca navrhnuté človekom.

Jeden z príkladov, ktorý bol prezentovaný, je experiment s Picbreederom, kde AI spontánne vyvinula model lebky, v ktorom rozumie "ústa" ako samostatnú časť, ktorú môže otvárať a zatvárať, bez toho aby bola explicitne trénovaná na túto akciu. Tento hlboký level porozumenia vzniká organicky, odspodu nahor, bez potreby rozsiahlych dátových množín.

Otvorené skúmanie a evolúcia: Kľúč k skutočnej inteligencii?

Podľa hostiteľov je kľúčom k rozvoji skutočnej AI opustenie fixných cieľov a otvorenie priestoru pre experimentovanie a objavovanie. Namiesto optimalizácie pre konkrétny cieľ by mali modely AI byť schopné skúmať svet okolo seba a nájsť nové, neočakávané riešenia.

Globálne investície do generatívnej umelej inteligencie

Tento prístup je podobný evolúcii v prírode, kde sa jedince adaptujú na svoje prostredie a vyvíjajú nové vlastnosti, ktoré im umožňujú prežiť a rozmnožovať sa. Podobne aj AI by mala byť schopná neustále sa učiť a prispôsobovať novým situáciám.

Zameranie na benchmarky: Hrozí nám "úzká" inteligencia?

Prehnané zameriavanie na benchmarky a metriky výkonu môže v skutočnosti brániť objavovaniu skutočnej inteligencie, ktorá vyžaduje kreativitu a adaptabilitu. Ak sa AI učí len na základe trénovacích dát a optimalizuje pre konkrétne ciele, riskujeme, že vytvoríme "úzkou" inteligenciu, ktorá je schopná riešiť špecifické problémy, ale nie je schopná generalizovať na nové situácie.

Záver: Opatrný optimizmus a potreba diverzifikácie

Rozhovor z Machine Learning Street Talk nám ponúka znepokojivý pohľad na súčasný stav AI. Hoci modely AI dosahujú pôsobivé výsledky, ich vnútorné porozumenie je často povrchné a chaotické. Našťastie existuje aj alternatívny prístup k budovaniu AI, ktorý sa vyhýba týmto problémom a umožňuje modelom rozvíjať hlboké a intuitívne reprezentácie sveta.

Je dôležité si uvedomiť, že cesta k skutočnej inteligencii nie je jednoduchá a vyžaduje si otvorené skúmanie, experimentovanie a diverzifikáciu prístupov. Namiesto toho, aby sme všetku našu vajíčka dali do jedného koša (SGD), by sme mali preskúmať aj iné možnosti a nájsť cestu k AI, ktorá je nielen výkonná, ale aj skutočne inteligentná.

Referencie:

• Questioning Representational Optimism in Deep Learning: The Fractured Entangled Representation Hypothesis https://arxiv.org/pdf/2505.11581
• Kenneth O. Stanley, Joel Lehman Why Greatness Cannot Be Planned: The Myth of the Objective https://amzn.to/44xLaXK

Približne 188 gCO₂ bolo uvoľnených do atmosféry a na chladenie sa spotrebovalo 0.94 l vody za účelom vygenerovania tohoto článku.