Inteligencia a AI: Nový pohľad na vedomie a adaptáciu

Nedávno som sa započúval do fascinujúcej diskusie s Michaelom Timothy Bennettom na Machine Learning Street Talk. Rozhovor sa dotkol kľúčových otázok týkajúcich sa umelej inteligencie (AI), vedomia a toho, čo vlastne znamená byť inteligentným. Bennettova práca, vrátane jeho provokatívnej práce „What the F*** is Artificial Intelligence,“ predstavuje výzvu konvenčným prístupom k AI a ponúka pohľad na alternatívne cesty smerom k skutočne pokročilej inteligencii. Diskusia sa dotkla širokého spektra tém, od definície inteligencie až po filozofické úvahy o vedomí a jeho vzťahu k adaptácii a komplexnosti.

Kľúčové poznatky

• Inteligencia ako efektivita adaptácie: Bennett presadzuje definíciu inteligencie ako „efektívnosti adaptácie,“ čo odráža schopnosť systému prispôsobiť sa obmedzeným zdrojom.
• Kritika „výpočtového dualizmu“: Bennett kritizuje izoláciu softvérovej inteligencie od hardvéru a interpretov, čo môže viesť k umelo obmedzeným systémom.
• Život ako „waxing“ (rast): Život je definovaný ako proces rastu a zvyšovania komplexity na úkor jednoduchosti („simplication“).
• Dôležitosť hybridných prístupov: Kombinácia aproximácie (LLM) a vyhľadávania, inšpirovaná prácou Suttona o „horkej lekcii,“ je kľúčová pre efektívne inteligentné systémy.
• Vedomie ako nevyhnutný dôsledok adaptácie: Vedomie nie je ilúzia, ale skôr nevyhnutný produkt vzťahov v prostredí a spracovania informácií.

Definícia inteligencie: Viac než len parametre

Tradičné prístupy k AI často kladú dôraz na zvyšovanie počtu parametrov a objemu trénovacích dát. Bennett však argumentuje, že toto nie je cesta k skutočnej inteligencii. Namiesto toho navrhuje definíciu inteligencie ako „efektívnosti adaptácie,“ čo znamená schopnosť systému prispôsobiť sa obmedzeným zdrojom a prostrediu. Táto myšlienka, inšpirovaná prácou Pei Wanga s neaxiomatickými systémami uvažovania (NARS), presúva dôraz z hrubého výpočtového výkonu na schopnosť efektívne riešiť problémy v reálnom svete.

Umeló inteligencia: Výkon v testoch z vedomostí vs. počet parametrov

Výpočtový dualizmus a mortalita výpočtu

Bennett kritizuje „výpočtový dualizmus,“ ktorý izoluje softvérovú inteligenciu od hardvéru a interpretov, čo môže viesť k umelo obmedzeným systémom. Podobne zdôrazňuje koncept „mortal computation“ (smrteľného výpočtu), ktorý poukazuje na to, že existujú len konečné kópie akéhokoľvek softvérového programu. To kontrastuje s predstavou o nesmrteľnom výpočte a naznačuje, že skutočná inteligencia vyžaduje viac ako len rozsiahle výpočtové zdroje.

Vedomie: Nadväznosť na adaptáciu?

Diskusia sa dotkla aj filozofickej otázky vedomia. Bennett argumentuje, že vedomie nie je ilúzia, ale skôr nevyhnutný dôsledok vzťahov v prostredí a spracovania informácií. Podľa neho je vedomie úzko prepojené s adaptáciou a schopnosťou systému interagovať so svojím okolím. Táto myšlienka spochybňuje koncept „filozofických zombíkov“ – bytostí, ktoré sa správajú ako ľudia, ale nemajú žiadne vedomie.

Názory Američanov na umelú inteligenciu vs. ľudskú inteligenciu

Život: Dynamika medzi jednoduchosťou a komplexitou

Bennett predstavuje zaujímavý pohľad na život ako dynamickú interakciu medzi „simplication“ (trvanlivosťou prostredníctvom jednoduchosti) a „waxing“ (rastom komplexity). Skaly sú príkladom „simplication“, zatiaľ čo sebaopravujúce sa organizmy demonštrujú „waxing“ na úkor simplicity. Udržanie homeostázy vyžaduje rozsiahlu delegáciu kontroly, čo vedie ku kombinácii oboch princípov. Život je teda definovaný ako proces rastu a zvyšovania komplexity na úkor jednoduchosti.

Hybridné AI: Kombinácia aproximácie a vyhľadávania

Bennett zdôrazňuje dôležitosť hybridných prístupov k AI, ktoré kombinujú „aproximáciu“ (ako jazykové modely) s „vyhľadávaním.“ Tento prístup, inšpirovaný úspechmi AlphaGo a systémov NARS/Hyperon, umožňuje vytvárať efektívnejšie inteligentné systémy. Dôležitá je aj modularita a adaptabilita, čo odráža „horkú lekciu“ Richarda Suttona o dôležitosti vyhľadávania v AI.

Umeló inteligencia: Výkon v testoch z vedomostí vs. výpočtová náročnosť trénovania

Zhrnutie a odporúčania

Diskusia s Michaelom Bennettom ponúka cenné pohľady na budúcnosť umelej inteligencie. Jeho kritika tradičných prístupov, zdôrazňovanie efektívnosti adaptácie a filozofické úvahy o vedomí nás nútia prehodnotiť naše predstavy o tom, čo vlastne znamená byť inteligentným. Je potrebné presúvať sa od jednoduchého škálovania výpočtového výkonu k vytváraniu systémov, ktoré sú schopné efektívne riešiť problémy v reálnom svete a adaptovať sa na neustále meniace prostredie.

Referencie

• Bennett, M.T. „What the F*** is Artificial Intelligence“ (https://arxiv.org/abs/2503.23923)
• Bennett, M.T. „Are Biological Systems More Intelligent Than Artificial Intelligence?“ (https://arxiv.org/abs/2405.02325)
• Legg, S. & Hutter, M. (2007). „Universal Intelligence: A Definition of Machine Intelligence“
• Chollet, F. (2019). „On the Measure of Intelligence“

Približne 267 gCO₂ bolo uvoľnených do atmosféry a na chladenie sa spotrebovalo 1.34 l vody za účelom vygenerovania tohoto článku.