Umelá inteligencia: Prečo súčasné AI systémy zlyhávajú?

Nedávno som si pozrel fascinujúce video od Machine Learning Street Talk, kde Dr. Maxwell Ramstead a Jason Fox z Noumenal diskutovali o zásadných nedostatkoch súčasných prístupov k umelej inteligencii a načrtli cestu k skutočnej fyzickej AI. Hlavnou myšlienkou je, že dnešné systémy, vrátane rozsiahlych jazykových modelov (LLM), sú "uviazané v dátovom priestore" – spracovávajú len vzory v dátach a nemajú reálne pochopenie fyzického sveta, ktorý tieto dáta generuje. Toto video ponúka hlboký ponor do filozofických základov AI, výziev spojených s prenosom zručností zo simulácie do reality a inovatívnych riešení, ktoré Noumenal vyvíja.

Kľúčové poznatky

• Problém stelesnenia: Skutočná inteligencia je neoddeliteľná od telesnosti a interakcie s fyzickým prostredím.
• LLM ako "stíny": Súčasné jazykové modely fungujú podobne ako väzni v Platónovej jaskyni, ktorí vidia len tiene reality, nie samotnú realitu.
• Potreba autonómnej generácie dát: AI systémy by mali aktívne skúmať a generovať vlastné dáta prostredníctvom telesnej interakcie s okolitým svetom.

Údaje použité na trénovanie významných systémov umelej inteligencie

• Kompozičné systémy: Riešením je vytvorenie "trhu modelov", kde sa špecializované komponenty AI môžu dynamicky kombinovať a nasadzovať na roboty.
• Výzvy prenosu zručností: Prekonanie rozdielu medzi simuláciou a reálnym svetom predstavuje zásadnú výzvu, ktorá vyžaduje robustné metódy prenášania naučených zručností.

Problém stelesnenia: Kľúč k skutočnej inteligencii

Jedným z hlavných argumentov prezentovaných v tomto videu je, že inteligencia je neoddeliteľná od telesnosti. Naše poznanie a porozumenie sveta sa formuje prostriedkom interakcie s ním – dotykom, pohybom, skúmaním. Súčasné AI systémy, ktoré operujú len na dátach, tento aspekt ignorujú. Ako uvádza Ramstead, pripomína to Platónovu alegóriu jaskyne, kde väzni vidia len tiene na stene a domnievajú sa, že sú to skutočné objekty. LLM spracovávajú textové dáta (a obrázky), ale nemajú žiadne reálne pochopenie fyziky sveta, ktorý tieto dáta generuje.

Jazyk ako "nesprávna kompresia" pre fyziku

Jazyk je silný nástroj na komunikáciu a zdieľanie informácií, no podľa Ramsteda je to zároveň "kompresia kompresie", čo ho robí nevhodným reprezentantom pre pochopenie fyzikálnych zákonov. Jazykové modely sú vynikajúce v generovaní textu a riešení jazykových úloh, ale ich schopnosť modelovať reálny svet je obmedzená.

Autonómna generácia dát: Cesta von z "dátového väzenia"

Pre dosiahnutie skutočnej fyzickej AI je nevyhnutné prejsť od spoliehania sa na existujúce datasety k autonómnej generácii dát prostredníctvom telesnej interakcie s okolitým svetom. Rané systémy posilovaného učenia (reinforcement learning) profitovali z skúmania zjednodušených prostredí, čo viedlo k lepším výsledkom. Dnešné AI sa však príliš spolieha na rozsiahle datasety, čo vedie k strate tejto sebadirektovanej explorácie.

Exponenciálny rast bodov dát použitých na trénovanie významných systémov umelej inteligencie.

Kompozičné systémy a "trh modelov"

Noumenal navrhuje inovatívne riešenie v podobe kompozičného systému – "trhu modelov", kde sa špecializované komponenty AI môžu dynamicky kombinovať a nasadzovať na roboty. Tento prístup umožňuje vytvárať flexibilné a adaptabilné systémy, ktoré sú schopné riešiť komplexné úlohy v reálnom svete. Predstavte si to ako "telefonovanie priateľovi" – ak potrebujete pomoc s konkrétnou úlohou, jednoducho pridáte špecializovaný model, ktorý ju zvládne.

Prekonanie rozdielu medzi simuláciou a realitou: Výzva pre budúcnosť AI

Prechod z virtuálneho sveta simulácie do reálnej reality predstavuje zásadnú výzvu. Rozdiely v motorickom a senzorickom šume, ako aj iné faktory, môžu ovplyvniť výkonnosť modelov v reálnom svete. Noumenal sa snaží vybudovať platformu podobnú AWS, Docker, Kaggle a Hugging Face, ktorá by uľahčila nasadenie modelov z modelovania až po testovanie na hardvére.

Umeló inteligencia: Výkon v testoch z vedomostí vs. výpočtová náročnosť trénovania

Záverečné myšlienky

Video od Machine Learning Street Talk ponúka cenný pohľad do súčasných výziev a príležitostí v oblasti umelej inteligencie. Zdôrazňuje dôležitosť telesnosti, autonómnej generácie dát a kompozičných systémov pre vytvorenie skutočnej fyzickej AI. Prístup Noumenal k "trhu modelov" predstavuje sľubné riešenie pre prekonanie súčasných obmedzení a otvára nové možnosti pre budúcnosť AI.

Referencie

• Kenneth Stanley: https://scholar.google.ca/citations?user=ILpGOMkAAAAJ&hl=fr

Približne 208 gCO₂ bolo uvoľnených do atmosféry a na chladenie sa spotrebovalo 1.04 l vody za účelom vygenerovania tohoto článku.