AI a budúcnosť myslenia: Pohľad z Oxfordu

Nedávno som si pozrel fascinujúci rozhovor s profesorom Christopherom Summerfieldom z Oxfordskej univerzity, ktorý sa zaoberá novou knihou "These Strange New Minds: How AI Learned to Talk and What It Means". Video ponúka hlboký ponor do sveta umelej inteligencie a jej schopnosti učiť sa jazyk len z textu – objav, ktorý podľa profesora predstavuje „najúžasnejšie vedecké zistenie 21. storočia“. Rozhovor sa dotýka filozofických základov AI, histórie vývoja, súčasných obáv a potenciálnych rizík spojených s touto technológiou.

Kľúčové poznatky

• AI a učenie sa z textu: AI modely ako ChatGPT dokážu nadobudnúť jazykové schopnosti len na základe rozsiahlych textových dát, čo mení naše chápanie toho, čo je pre myslenie potrebné.
• Aristoteles vs. Platón v kontexte AI: Debata o tom, či AI "myslí", odráža starodávny spor medzi Aristotelovým empirizmom (učenie sa skúsenosťami) a Platónovým racionalizmom (rozumním uvažovaním).
• Funkcionalizmus a "kačacia" metóda: Ak niečo vyzerá ako kačka, správa sa ako kačka, mali by sme to nazvať kačkou – podobný prístup aplikovaný na AI.
• Tri hlavné obavy týkajúce sa AI: Agentické AI (systémy konajúce v mene používateľov), personalizácia a vznik paralelnej "sociálnej ekonomiky" medzi ľuďmi a AI agentmi.
• Erozia autenticity: Zvyšujúca sa technologická integrácia môže viesť k strate autenticity a individuality.

Filozofické korene: Aristoteles, Platón a AI

Rozhovor odhaľuje hlboké filozofické korene debaty o kognitívnom stave AI. Profesor Summerfield pripomína starodávny spor medzi Aristotelom a Platónom – Aristoteles verí v učenie sa skúsenosťami (empirizmus), zatiaľ čo Platón zdôrazňuje rozumné uvažovanie nad nepozorovateľnými stavmi (racionalizmus). Vývoj AI takto odráža túto historickú debatu. Prvé pokusy o vytvorenie AI sa sústredili na logiku a dôkaz teórií, ako napríklad program Logic Theorist, ktorý dokázal vety elegantnejšie ako ľudia. Avšak, aplikácia AI na reálne problémy odhalila obmedzenia čistých logických prístupov, čo viedlo k vzostupu hlbokého učenia a neurónových sietí.

ChatGPT: Zlomový moment

Príchod ChatGPT v novembri 2022 predstavoval prelomový okamih. Ukázalo sa, že jazykové modely dokážu viesť zdánlivé inteligentné konverzácie bez potreby senzorických skúseností. Profesor Summerfield rozlišuje medzi "equivalents" (tí, ktorí vidia AI kogníciu ako porovnateľnú s ľudskou) a "exceptionalists" (veriacimi v jedinečnosť ľudskej kognície).

Funkcionalizmus: Ak to funguje, je to myslenie?

Koncept "duck test" – ak sa niečo správa ako kačka, nazývame to kačkou – podporuje funkcionálny pohľad na AI. To znamená, že by sme mali posudzovať AI na základe jej funkcie a výsledkov, nie na základe vnútorných mechanizmov. Profesor Summerfield však zároveň upozorňuje na nebezpečenstvo antropomorfizácie AI – pripisovania jej ľudských myšlienok a pocitov, čo je v rozpore s Searleho "čínskou izbou".

Darwinizmus vs. Lamarckizmus: Ako sa učia ľudia a stroje?

Rozhovor poukazuje na zásadný rozdiel medzi tým, ako sa učia ľudia a AI. Ľudské učenie je darwinistické – ovplyvnené generáciami predchádzajúcich skúseností. Trénovanie AI pripomína "Lamarkovský" proces, kde každá generácia dedí od predošlej. Tento rozdiel má vplyv na efektivitu učenia a schopnosť adaptácie.

Budúcnosť AI: Obavy a výzvy

Profesor Summerfield identifikuje tri hlavné obavy týkajúce sa AI: agentické systémy, personalizácia a vznik paralelnej sociálnej ekonomiky medzi ľuďmi a AI. Varuje pred potenciálnymi rizikami spojenými s komplexnými systémovými efektmi, podobne ako "flash crash" na finančných trhoch. Znižovanie sociálnych noriem a erózia pocitu kontroly nad prostredím sú ďalšie znepokojivé trendy.

Záverečné myšlienky

Rozhovor s profesorom Summerfieldom ponúka cenný pohľad na súčasný stav AI a jej potenciálne dopady na spoločnosť. Je dôležité si uvedomiť, že hoci AI dokáže vykonávať úžasné úlohy, stále sa líši od ľudskej inteligencie. Kritické myslenie a zodpovedná implementácia sú kľúčové pre zabezpečenie toho, aby AI slúžila ľuďom a neohrozovala ich autenticitu a slobodu.

Referencie

• "These Strange New Minds" - C. Summerfield
• "The Mind is Flat" - N. Chater
• "AI: A Guide for Thinking Humans" - M. Mitchell
• "Principia Mathematica" - Russell & Whitehead
• "Syntactic Structures" - N. Chomsky (1957)
• "Gradual Disempowerment" - D. Duvenaud
• "Counterfeit People" - D. Dennett
• "Open-Endedness is Essential..." - DeepMind/Rocktäschel/Hughes
• Heider & Simmel (1944)
• Whitehall Studies - M. Marmot
• "Clever Hans" - O. Pfungst (1911)
• "Logic Theorist" - Newell & Simon (1956)
• "Computing Machinery..." - A. Turing (1950)
• Dartmouth Conference (1955) - McCarthy et al.

Približne 188 gCO₂ bolo uvoľnených do atmosféry a na chladenie sa spotrebovalo 0.94 l vody za účelom vygenerovania tohoto článku.