Inteligencia a AI: Prečo je robiť viac s menej kľúčové

David Krakauer, prezident Santa Fe Institute, v zaujímavej prednáške pre Machine Learning Street Talk argumentuje, že si často mýlime znalosti s inteligenciou – a to najmä pokiaľ ide o umelú inteligenciu. Skutočná inteligencia podľa neho spočíva v schopnosti dosiahnuť veľa s minimálnym vstupom, čo je v priamom kontraste k súčasným AI modelom, ktoré vyžadujú obrovské množstvo dát na vykonávanie úloh, ktoré nevykazujú skutočné porozumenie alebo adaptabilitu. Krakauer varuje pred nebezpečenstvom nadmerného spoliehania sa na AI a potenciálnym poklesom ľudskej kognície a kreativity.

Kľúčové poznatky

• Inteligencia vs. Znalosti: Skutočná inteligencia nie je len o tom, koľko vieme, ale o tom, ako efektívne dokážeme využiť to, čo vieme na riešenie nových problémov.
• Emergencia v AI: Povrchná interpretácia: Súčasné modely AI vykazujú "emergentné" schopnosti len v povrchnej miere – zlepšujú sa pri škálovaní, ale neznamená to zásadnú zmenu vo vnútornej organizácii systému.
• Kultúra ako Zvýhodnená Evolúcia: Kultúra umožňuje rýchlejšiu evolúciu poznatkov ako biologická evolúcia tým, že ukladá a opätovne využíva nahromadené znalosti.
• Exbodiment: Outsourcing myslenia: Vytváranie vonkajších nástrojov (mapy, abakusy, jazyk) na rozšírenie našich kognitívnych schopností.
• Nebezpečenstvo Atrofie: Nadmerné spoliehanie sa na AI môže viesť k poklesu ľudskej kognície a kreativity, podobne ako atrofia svalov pri nečinnosti.

Evolúcia Inteligencie: Od Bakterií po Kultúru

Krakauer začína porovnaním fungovania mozgu s funkciou svalu – ak prestaneme používať naše kognitívne schopnosti, tieto sa oslabujú. Podobne ako veda usiluje o porozumenie vesmíru nie na základe ovládania a vykorisťovania, ale skôr na hľadaní zmyslu a významu (podobne ako poézia), aj inteligencia by mala slúžiť na zlepšenie našej schopnosti riešiť problémy s minimálnym vynaloženým úsilím.

Zaujímavý je pohľad na inteligenciu baktérií – hoci sú jednoduché, dokážu dosiahnuť pozoruhodné výsledky s minimálnymi zdrojmi. To ukazuje, že inteligencia nie je len doménou komplexných systémov ako ľudský mozog.

Kľúčovým momentom v evolúcii inteligencie bol vznik kultúry. Tá umožnila ukladanie a prenos poznatkov medzi generáciami, čím sa výrazne zrýchlil proces učenia a adaptácie. Krakauer to nazýva "evolúcia na svetelnej rýchlosti" – oveľa rýchlejšia ako biologická evolúcia, ktorá je obmedzená genetickými mutáciami.

Emergentné Schopnosti: Skutočná Zmena vs. Škálovanie

Krakauer kritizuje populárny pohľad na "emergenciu" v kontexte AI. Časté označovanie zlepšenia výkonu modelu pri škálovaní za emergentnú schopnosť považuje za povrchnú interpretáciu. Skutočná emergencia, ako vysvetľuje, by si vyžadovala zásadnú zmenu vo vnútornej organizácii systému – prechod od sledovania jednotlivých komponentov k elegantnejšiemu a efektívnejšiemu popisu celku (podobne ako prechod od sledovania jednotlivých molekúl vody k pochopeniu zákonov dynamiky tekutín).

Exbodiment: Rozšírenie našej Mysle do Vonkajšieho Sveta

Koncept "exbodiment" je ďalším dôležitým bodom Krakauerovej prednášky. Ide o proces, v ktorom si outsourcingujeme kognitívne úlohy na vonkajšie nástroje a artefakty – od jednoduchých map a abakov až po komplexné jazyky a počítače. Tieto nástroje sa stávajú súčasťou nášho myslenia a umožňujú nám riešiť problémy, ktoré by sme inak neboli schopní vyriešiť. Týmto spôsobom rozširujeme hranice našej mysle do vonkajšieho sveta.

Varovanie: Nebezpečenstvo Atrofie Kognície

Krakauer však zároveň varuje pred potenciálnymi negatívnymi dôsledkami nadmerného spoliehania sa na AI. Ak budeme neustále delegovať kognitívne úlohy na stroje, hrozí nám atrofia našej vlastnej mysle – podobne ako svaly strácajú silu pri nečinnosti. Varuje pred homogenizáciou myslenia a úbytkom kreativity, ak sa budeme spoliehať len na AI generovaný obsah.

Zameranie Santa Fe Institute: Evolúcia Inteligencie a Stupidity

Krakauerova práca v Santa Fe Institute sa zameriava na štúdium evolúcie inteligencie a stupidity na Zemi, čo naznačuje komplexný pohľad na vývoj kognitívnych schopností.

Odporúčania a Zamyslenia

Prednáška Davida Krakauera nás núti zamyslieť sa nad tým, ako využívame AI a aký dopad má to na naše vlastné kognitívne schopnosti. Je dôležité si uvedomiť, že technológia by mala slúžiť na rozšírenie našich možností, nie na ich nahradenie. Vzdelávacie systémy by mali vytvárať priestory pre nezávislé myslenie a čítanie bez pomoci AI, aby sa zabránilo kognitívnemu poklesu.

Referencie

• Large Language Models and Emergence: A Complex Systems Perspective David C. Krakauer, John W. Krakauer, Melanie Mitchell https://arxiv.org/abs/2506.11135
• Diverse Intelligences Summer Institute: https://disi.org/

Približne 172 gCO₂ bolo uvoľnených do atmosféry a na chladenie sa spotrebovalo 0.86 l vody za účelom vygenerovania tohoto článku.