Prečo je AGI nemožná: Evolúcia a limity formalizácie

V poslednom videu s Curtom Jaimungalom sa hlboko ponoríme do fascinujúcej otázky, či je vôbec možné vytvoriť všeobecnú umelú inteligenciu (AGI). Jaimungal argumentuje, že AGI je v podstate nemožná, pretože súčasné počítačové systémy a dokonca aj pokročilé jazykové modely nedokážu replikovať kľúčový aspekt ľudského myslenia – schopnosť improvizácie a nálezov nových využití vecí bez dedukovateľných krokov. Video sa dotýka filozofických konceptov, ako je Kantova idea organizovaného bytia a limity formalizácie, a ponúka pohľad na to, prečo evolúcia v biologickom svete funguje inak ako akékoľvek pokusy o vytvorenie umelej inteligencie.

Kľúčové poznatky

• AGI vyžaduje otvorenú evolúciu: Jaimungal tvrdí, že skutočná AGI si vyžaduje "otvorenú evolúciu", ktorá vytvára nové možnosti, ktoré nie sú dedukovateľné z existujúcich. To je v rozpore s tým, čo dokážu súčasné počítače.
• Jury-rigging a ľudský mozog: Ľudský mozog vyniká v "jury-riggingu" – schopnosti nájsť neočakávané využitie vecí bez dedukovateľných krokov. Tento proces je podobný Darwinovým preadaptáciám, ktoré umožňujú evolúcii vytvárať nové možnosti.
• Limity formalizácie: Andrea Roli a Jaimungal ukázali, že v teórii množín nie je možné vyvolať všetky využitia veci. To znamená, že svet nie je "téma" – nemôžeme ho plne popísať pomocou rovníc a predpovedať jeho vývoj.
• Biologická inteligencia vs. počítačová: Biologické systémy, ako bunky, sú "embodované" a "embedded" vo svete, čo im umožňuje dynamicky sa meniť a vytvárať nové možnosti. Počítače to nedokážu.

Jury-rigging: Improvizácia a nález nových využití

Jaimungal uvádza príklad svojej dcéry, ktorá stratila kabelku v malej fľaši. Použil ohybnú slučku drôteného vešiaka na vytiahnutie kabelky. Tento jednoduchý čin ilustruje "jury-rigging" – schopnosť improvizovať a nájsť neočakávané využitie vecí bez toho, aby sme mohli vopred predpovedať kroky potrebné k dosiahnutiu cieľa. Podobne ako Darwinove preadaptácie, jury-rigging umožňuje evolúcii vytvárať nové možnosti.

Kantova idea organizovaného bytia a limity formalizácie

Kant tvrdil, že "svet nie je téma". To znamená, že svet nemôžeme ho plne popísať pomocou rovníc a predpovedať jeho vývoj. Jaimungal a Andrea Roli to demonštrujú prostredníctvom analýzy teórie množín. Ukázali, že v teórii množín nie je možné vyvolať všetky využitia veci. Napríklad, nemôžeme vypočítať všetky využitia skrutkovača alebo motora pomocou rovníc. To znamená, že existujú limity formalizácie – nemôžeme plne popísať a predpovedať svet pomocou matematických modelov.

Biologická inteligencia: Embodiment a dynamické systémy

Jaimungal zdôrazňuje rozdiel medzi biologickou inteligenciou a počítačovou. Bunky sú "embodované" (telo) a "embedded" (vstavané) do sveta, čo im umožňuje dynamicky sa meniť a vytvárať nové možnosti. Bunka, ktorá sa sama konštruuje prostredníctvom mechanizmov uzavretosti a je dynamickým systémom s viacerými atraktormi, pôsobí vo svete. To znamená, že kategorizuje svet a pôsobí v ňom bez nutnosti reprezentácie.

Zhrnutie a úvahy

Jaimungalova argumentácia naznačuje, že vytvorenie skutočnej AGI je oveľa náročnejšie, ako si mnohí myslia. Počítače a jazykové modely, hoci pokročilé, nemôžu replikovať kľúčové aspekty ľudského myslenia, ako napríklad jury-rigging a otvorená evolúcia. Jeho práca podčiarkuje limity formalizácie a zdôrazňuje jedinečnosť biologickej inteligencie, ktorá je hlboko prepojená so svetom okolo nás.

Je možné, že budeme musieť preskúmať nové filozofické a vedecké prístupy, aby sme pochopili skutočný potenciál umelej inteligencie a jej vzťah k ľudskému mysleniu. Možno, že budúcnosť AI nespočíva v vytváraní "umelých" mozgov, ale v lepšom porozumení a napodobňovaní princípov, ktoré riadia evolúciu a biologickú inteligenciu.

Zdroje

• Originálne video
• Why The Founder of Complexity Theory Abandoned Reductionism
• ekonomista.com
• Curt Jaimungal | Substack
• Teórie Všetkého s Curtom Jaimungalom
• Curt Jaimungal
• Curt Jaimungal @TOEwithCurt na X
• Pripojte sa na Discord server 💡 Teórií o všetkom s Curtom Jaimungalom!

Približne 145 gCO₂ bolo uvoľnených do atmosféry a na chladenie sa spotrebovalo 0.73 l vody za účelom vygenerovania tohoto článku.