Umelá inteligencia a mozog: Čo sa môžeme naučiť?
Ako sa môže umelá inteligencia (AI) naučiť od prírody? Adam Marblestone argumentuje, že súčasné AI prehliadajú dôležité aspekty učenia sa zakorenené v biologických systémoch. Kľúčom je pochopiť mozog ako predikčný stroj a integrovať komplexné odmeňovacie funkcie.
Nedávno som si vypočul fascinujúci rozhovor s Adamom Marblestone, CEO spoločnosti Convergent Research. V ňom sa zaoberal kľúčovou otázkou: Prečo je ľudský mozog taký úžasný a čo môže umelá inteligencia (AI) z jeho fungovania naučiť? Marblestone argumentuje, že súčasné AI modely často prehliadajú dôležité aspekty učenia sa, ktoré sú hlboko zakorenené v biologických systémoch. Poďme sa na to pozrieť bližšie!
Kľúčové poznatky
- Mozog ako predikčný stroj: Mozog nie je len pasívny prijímateľ informácií, ale aktívne predpovedá vzorce a správanie sveta okolo nás.
- Význam komplexných odmeňovacích funkcií: Evolúcia „vytvorila“ v mozgu rozsiahlu sieť odmeňovacích funkcií (loss functions), ktoré riadia učenie sa. AI modely by mali zvážiť ich integráciu.
- Rozdiel medzi učením a riadením: Mozog má dve hlavné časti: „riadiaci“ systém, ktorý zodpovedá za inštinktívne reakcie, a „učebný“ systém, ktorý sa adaptuje na nové skúsenosti.
- Formalizovaná matematika ako kľúč k pokroku: Používanie formalizovanej matematiky a overiteľných dôkazov môže výrazne zlepšiť AI systémy a pomôcť nám lepšie porozumieť mozgu.
Mozog: Neobyčajný predikčný stroj
Marblestone zdôrazňuje, že kľúčom k pochopeniu ľudského mozgu je vnímať ho ako neuveriteľne univerzálny predikčný stroj. Na rozdiel od dnešných AI modelov, ktoré sa zameriavajú najmä na predpovedanie ďalšieho slova v sekvencii (ako jazykové modely), mozog dokáže predpovedať vzorce a správanie sa z rôznych zdrojov informácií. Táto schopnosť je základom pre naše kognitívne schopnosti a umožňuje nám efektívne interagovať so svetom.
Učenie sa: Viac ako len algoritmy
Súčasné AI modely sa často spoliehajú na komplexné algoritmy učenia, ale Marblestone tvrdí, že to nestačí. Evolúcia totiž v mozgu zakódovala rozsiahlu sieť odmeňovacích funkcií, ktoré riadia učenie sa a adaptáciu. Tieto funkcie sú výsledkom miliónov rokov evolúcie a umožňujú nám rýchlo a efektívne učiť sa zo skúseností.
Dva systémy v mozgu: Riadenie a učenie
Marblestone tiež poukazuje na rozdiel medzi „riadiacim“ systémom a „učebným“ systémom v mozgu. „Riadiaci“ systém je zodpovedný za inštinktívne reakcie a základné správanie, zatiaľ čo „učebný“ systém sa adaptuje na nové skúsenosti a umožňuje nám učiť sa nové veci. Táto dualita môže byť kľúčová pre pochopenie toho, ako mozog funguje a ako ho môžeme napodobniť v AI systémoch.
Formalizovaná matematika: Nový nástroj pre AI?
Marblestone zdôrazňuje dôležitosť formalizovanej matematiky a overiteľných dôkazov pri vývoji AI. Používanie jazykov ako Lean umožňuje vytvárať overiteľné programy, čo môže výrazne zlepšiť spoľahlivosť a bezpečnosť AI systémov. Zároveň to môže pomôcť lepšie porozumieť fungovaniu mozgu, ktorý pravdepodobne využíva komplexné matematické princípy na spracovanie informácií.
Čo nás čaká?
Marblestoneho práca naznačuje, že pre dosiahnutie skutočnej umelej inteligencie musíme pochopiť a napodobniť spôsob, akým sa učí ľudský mozog. To si vyžaduje nielen vývoj lepších algoritmov, ale aj hlbšie pochopenie biologických systémov a využívanie formalizovaných matematických nástrojov. Je to náročná úloha, ale potenciálne odmeny sú obrovské – AI systémy, ktoré sa dokážu učiť tak efektívne ako ľudský mozog, by mohli zmeniť svet.
Odporúčania na ďalšie čítanie a zdroje:
- Convergent Research: https://www.essentialtechnology.blog/
- Longitudinal Science (blog): https://longitudinal.blog/
Zdroje
- Originálne video
- Adam Marblestone – AI chýba niečo základné o mozgu
- Adam Marblestone – AI chýba niečo základné o mozgu
- Adam Marblestone – AI chýba niečo základné o mozgu
- Google Gemini
- 👋 Pozorní poslucháči Dwarkesha | Zrýchlite vývoj špičkovej umelej inteligencie pomocou Labelbox.
- Sponzorujte podcast
- Úvod do bezpečnosti AGI ako mozog — LessWrong
- Stručná história inteligencie: Evolúcia, AI a päť prelomov, ktoré vytvorili naše mozgy – Max Bennett
- Pozdĺžne vedy
- Základná technológia | Joseph Fridman | Substack
- yann.lecun.com
- Čo znamená porozumieť neurónovej sieti?
- E11 Bio | Vesmírna neurovedná výskumná misia
- gershmanlab.com
- Modulárne mozgové AUNNs na nahrávanie
- Ilya Sutskever – We're moving from the age of scaling to the age of research
- Richard Sutton – Father of RL thinks LLMs are a dead end
- Andrej Karpathy — “We’re summoning ghosts, not building animals”
Približne 277 gCO₂ bolo uvoľnených do atmosféry a na chladenie sa spotrebovalo 1.39 l vody za účelom vygenerovania tohoto článku.
Komentáre ()