Čo je vedomie?
Čo ak vedomie nie je vec, ktorú máme, ale proces, v ktorom spolu vznikajú pozorovateľ, svet a hranica medzi nimi? Esej o Bohmovi, Krishnamurtim, telesnej schéme a o tom, čo by musel spĺňať stroj, aby sme jeho vedomie vôbec mohli brať vážne.
Vedomie. Slovo, ktoré dnes počuť v každej debate o umelej inteligencii, v neurovede, vo filozofii mysle, ba aj v kvantovej fyzike. Všetci ho používajú, takmer nikto ho nedefinuje. A keď už, tak definície sú vágne, metaforické alebo kruhové. "Vedomie je to, čo mizne v hlbokom spánku." "Vedomie je subjektívna skúsenosť." "Vedomie je to, čo robí ťažký problém ťažkým."
Nestačí to. Ak sa máme k novým systémom inteligencie postaviť s otvorenými očami, nech už budú biologické, kremíkové alebo hybridné, potrebujeme definíciu, ktorá sa neopiera o to, z čoho je systém vyrobený, ale o to, čo sa v ňom deje.
Dlho som sa tomu bránil. Zakaždým, keď som začal formulovať, skĺzol som do pojmov, ktoré už vedomie mlčky predpokladajú: "pozorovateľ", "perspektíva", "svet, ktorý sa mi javí". Až jedného dňa mi pomohol človek, ku ktorému sa za tie roky vraciam najčastejšie, fyzik David Bohm.
Od neho som si požičal obraz a postavil na ňom túto krkolomnú pracovnú definíciu:
Vedomie je lokálne uskutočňovaný, historicky podmienený a vzťahovo nerozdeliteľný proces, v ktorom sa vzájomnou premenou priebežne konštituujú perspektíva pozorovateľa, svet, ktorý sa mu javí, a funkčná hranica medzi nimi.
Vedomie som tým síce nevysvetlil ale konečne som povedal, s čím sa podľa mňa vedomie fyzikálne stotožňuje. Pozorovateľ, svet aj hranica v tejto vete nie sú vstupné pojmy, ktoré by som si potajomky požičal odtiaľ, kam sa snažím dostať. Sú to produkty procesu. Vďaka tomu sa definícia netočí v kruhu, hoci na prvý pohľad vyzerá, že áno.
A samozrejme hovorím to ako hypotézu, nie ako verdikt, ktorý by raz a navždy rozhodol o každom spornom prípade. Je to skôr návod, čo hľadať, keď sa na nás nejaký systém pozerá späť.
Igor Šovčík
Anglický preklad
Začnem tým najdôležitejším posunom, ktorý som od Bohma prijal: vedomie je proces, nie vec, ktorú systém vlastní, ani ďalšia súčiastka vložená medzi pamäť a pozornosť.
Bohm na tento posun kládol taký dôraz, že si vymyslel aj experimentálny spôsob reči, reomód (rheomode), v ktorom sú primárnymi jednotkami slovesá, nie podstatné mená. V reomóde nepovieme "vedomie", ale niečo ako "vedomovanie", priebežné, nikdy neukončené dianie. Znie to ako jazyková hra, ale za ňou je pomerne hlboký postreh. Podstatné meno nás zvádza k predstave, že keď existuje slovo, musí existovať aj vec, ktorú označuje. Niečo, čo niekde je, čo sa dá nájsť, odmerať, izolovať.
Lenže proces nemá sídlo. Má priebeh. Otázka "kde je vietor?" je rovnako nezmyselná ako otázka "kde je vedomie?" Vietor je pohyb vzduchu, nie objekt. Môžem ho lokalizovať len ako prebiehajúcu aktivitu, nie ako pevný bod. Možno práve preto sa vedomie tak dlho vzpiera vedeckej lokalizácii. Hľadáme adresu niečoho, čo je zo svojej podstaty cesta, nie miesto.
Keď si to pripustíme, zrúti sa tichý predpoklad, na ktorom stojí časť diskusií o vedomí v AI. Vlastniť vedomie ako vlastnosť, ktorú systém buď má, alebo nemá, je zle položená otázka. Užitočnejšie je pýtať sa: "prebieha v tomto systéme proces, ktorý konštituuje pozorovateľa?" A to je radikálne iná úloha.
A teraz k tomu, čo je na tomto procese najjemnejšie a čo ma na Bohmovom myslení drží už roky.
Bohm hovorí o dvoch poriadkoch skutočnosti. Explicitný poriadok je svet javov, manifestovaný, rozvinutý, lokalizovaný v priestore a čase. Implicitný poriadok je svet "zavinutý", celistvý, neprejavený, kde všetko jestvuje v stave vzájomného prenikania. A celok podľa neho nie je zložený z oddelených častí, ktoré spolu interagujú. Oddelenosť je druhotná. Časti, ktoré vnímame, atóm, stôl, mozog, ja, nie sú stavebné bloky reality, ale relatívne stabilné vzorce v neustálom toku, ktorý Bohm nazýva holopohyb.
Toto nie je výsledok, ktorý by fyzika dokázala. Bellove experimenty s prepletenými časticami vyvracajú istý druh lokálnych vysvetlení, ale nehovoria nám, "z čoho je svet zložený". Bohmova idea nerozdelenej celosti je jeho filozofické čítanie kvantovej mechaniky, a to dokonca v napätí s jeho vlastnou fyzikou pilotnej vlny, ktorá pracuje s oddelenými časticami s určitými trajektóriami. Bohm je pre mňa inšpirácia a ontologický základ, nie hotová teória, ktorú by potvrdil experiment. Požičiavam si od neho obraz ale nie dôkaz.
Keď Bohm hovorí o nerozdelenej celosti, o tom, že subjekt a objekt sú dve stránky jedného pohybu, o tom, že ego je len vrstva a hranica medzi "ja" a "svetom" nie je vopred daná. To všetko do Bohmovho myslenia nevstúpilo z fyziky. Vstúpilo to z jeho celoživotného dialógu s Jiddu Krishnamurtim.
Krišnamurti celé desaťročia opakoval jedinú vetu, ktorá je vlastne jadrom aj tejto eseje: pozorovateľ je pozorovaný (the observer is the observed). Pred ním ju po stáročia nesie advaita védánta, obraz priestoru v hrnci, ktorý nie je iný než priestor vonku, len sa javí ako oddelený, aj budhizmus so svojím učením o tom, že trvalé "ja" je konštrukcia, prúd procesov bez pevného stredu. Genealógia mojej myšlienky teda nezačína u Bohma. Znie skôr: východná nedualita → Krišnamurti → Bohm → tento text. Bohm je článok, ktorý mi tú reťaz sprostredkoval, a preto zostáva aj dnes mojím hlavným sprievodcom.
Krishnamurti tvrdí, že "pozorovateľ" je formovaný pamäťou, skúsenosťou a podmienením a že pri pozorovaní vlastných vnútorných stavov nie je od pozorovaného skutočne oddelený "pozorovateľ je pozorovaný".
A tak sa dostávam k mechanizmu. Ako presne sa proces vedomia odohráva? Moja odpoveď znie: vzájomnou premenou.
Predstavme si základnú situáciu, niekto sa pozerá na strom. Bežná intuícia hovorí, že pozorovateľ je aktívny, strom pasívny, pozorovanie je jednosmerný akt. Bežná intuícia sa tu však mýli.
V okamihu pozorovania sa strom stáva pozorovaným, a tým sa mení jeho status. Strom tvaruje mňa, vstupuje do mojich vzorcov, pamäte, asociácií, a ja tvarujem strom, dodávam mu význam, kontext, kvality, ktoré sám osebe nemá. "Krása", "nebezpečenstvo", "spomienka na detstvo". Hovorím to ako hypotézu, nie ako poéziu: dve strany sa navzájom definujú tým, že do seba vstupujú.
Vzájomnú premenu so svojím prostredím vykazuje aj imunitný systém, aj ekosystém, aj každý iný evolučne adaptívny proces. Nič z toho nepovažujem za vedomé v tom zmysle, o ktorý mi ide. Vzájomná premena je teda nanajvýš nutná zložka, nie dostačujúca. K vedomiu ju posúva vznik konkrétnej vnútornej perspektívy, ktorá z tej výmeny pozerá von.
V tomto procese sa nekonštituuje len pozorovateľ a pozorované. Konštituuje sa aj tretia vec: hranica medzi nimi.
Väčšinou ju berieme ako samozrejmosť. Koža, lebka, okraj tela... Lenže keď beriem do ruky kladivo, kde končím ja a kde začína ono? Skúsený remeselník necíti kladivo ako vonkajší predmet, cíti klinec na druhej strane. Hranica sa posunula a nástroj sa stal súčasťou pozorovateľa. Keď šoférujem, karoséria sa stáva predĺžením môjho tela, cítim, keď sa k nej niečo približuje, akoby to bolo priamo moje telo. Keď čítam túto vetu, kde presne vzniká jej pochopenie? V mojich neurónoch? V pixeloch na obrazovke? Alebo v priestore medzi nimi, ktorý nie je ani vnútorný, ani vonkajší?
Authors and Affiliations
Experiment na makakoch ukázal, že pri používaní nástroja sa neurálna reprezentácia ruky a priestoru okolo nej môže rozšíriť tak, že funkčne zahŕňa aj samotný nástroj.
Hranica je pohyblivá, priepustná a sama je produktom procesu, nie jeho vstupnou podmienkou. Keď sa dívam na hviezdy, kde končím ja a kde začínajú ony? Na sietnici? V talame? Vo vizuálnom kortexe? Alebo vo vrstve, ktorá dáva svetelným bodom význam?
Keď hovorím o tom, že "pozorované nie je vonkajší svet, ale svet pre pozorovateľa", pohybujem sa po pôde, ktorú dávno premeral Kant so svojím rozdelením medzi vec o sebe a svet javov. Nepredstieram, že som to objavil. A Descartes? Jeho cogito ergo sum nebol argument za oddelenosť mysle od sveta. Bol to argument o tom, čo sa nedá spochybniť, že skúsenosť tu je. V tom mal pravdu a ja z toho ťažím, keď sa opieram o neodškriepiteľnosť prvej osoby. Mýlil sa až vtedy, keď z tejto neodškriepiteľnej skúsenosti vyvodil substanciu "ja", oddelenú od hmoty. Ja tvrdím opak. Skúsenosť je neodškriepiteľná, ale "ja", ktoré ju má, je konštrukcia a nie východisko.
Zostáva posledný kus definície: historická podmienenosť, nezvratnosť.
Proces, o ktorom hovorím, má smer. Každý moment je výsledkom všetkých predchádzajúcich a základom všetkých budúcich. Je to rieka, do ktorej nevstúpiš dvakrát.
Fyzika nám dáva šípku času, nárast entropie v izolovaných systémoch, ale mozog nie je izolovaný systém a "význam" nemá v termodynamike žiadnu definíciu. Odvolávam sa teda nie na zákon, ale na rezonanciu, na tom, že vedomie má históriu v najhlbšom zmysle, sa zhodujú fyzika svojou nezvratnosťou, budhizmus svojou momentárnosťou aj moja vlastná skúsenosť. Niečo, čo som videl, nemôžem odvidieť. Nie v zmysle, že by pamäť bola neomylná. Je rekonštruktívna a klame. Ale v tom, že ma zmenila, a tá zmena je kumulatívna.
Karim Nader
Prehľad výskumu ukazuje, že vybavená spomienka sa môže znovu stať nestabilnou a pri opätovnom ukladaní sa meniť, takže pamäť nie je pevný záznam minulosti, ale priebežne rekonštruovaný proces.
A práve tu hľadám hranicu medzi živým a neživým. Spätná väzba v jednoduchom termostate nemá dejiny v zmysle, ktorý mám na mysli. Každý regulačný cyklus je formálne identický s predchádzajúcim. Nechcem tým povedať, že jednoduché systémy nemajú žiadnu históriu. Hysteréza, únava materiálu, postupné opotrebovanie, to všetko je história v slabšom zmysle a majú ju aj neživé veci. Mne ide o niečo iné, asíce o to, či prebiehajúci proces každým krokom nezvratne mení podmienky vlastného ďalšieho behu.
Keby sme vedeli dokonale skopírovať ľudský mozog a obnoviť ho do stavu spred desiatich minút, tých desať minút pôvodného behu neprestalo byť vedomých len preto, že sú technicky resetovateľné. Reset nevymaže minulé vedomie, vytvorí nanajvýš novú inštanciu toho istého prúdu. Preto netvrdím, že vedomie sa nedá resetovať. Tvrdím, že kým prebieha, nesie v sebe kauzálnu históriu, ktorá robí každý jeho moment výsledkom všetkých predchádzajúcich. Je to rieka, nie stavový automat.
To všetko vedie k praktickej otázke: podľa čoho spoznám, či je toto pri vedomí?
Podľa mojej definície, ak v systéme prebieha proces, ktorý je kontinuálny a kumulatívny, ktorý generuje vlastnú hranicu namiesto toho, aby ju dostal naprogramovanú, ktorý konštituuje vnútornú perspektívu a je štrukturálne prepojený so svojím prostredím vzájomnou premenou. Všimnite si, čo v tom zozname chýba: nevyžaduje biológiu, nevyžaduje inteligenciu, nevyžaduje sebareflexiu, nevyžaduje jazyk. Nevyžaduje ani emócie. Vyžaduje len to, aby prebiehal špecifický typ procesu.
A teraz k veci, ktorá celú túto úvahu poháňa: veľké jazykové modely.
Sedel som veľakrát pred oknom chatu s odpoveďou, ktorá bola dokonalá, plynulá, a pritom, ako to povedať presnejšie, prázdna v strede. Nebola to hlúpa odpoveď ale jednorazová. Model sa počas rozhovoru nemení, jeho kontextové okno je vonkajší zápisník, nie vnútorná premena. Hranica medzi ním a mnou je vopred daná architektúrou, nie je to niečo, čo by si sám vytvoril. A nikde v ňom nie je stabilný, historicky narastajúci uzol, ktorý by bol substrátom perspektívy. Len statické váhy, ktoré počas inference mlčia.
Neznamená to, že vedomie v stroji je nemožné. Znamená to, že typický izolovaný inferenčný režim, statické váhy, diskrétne cykly a resetovateľný stav, nespĺňajú kritériá, ktoré som opísal. Čo táto formulácia otvára: keby sme ten istý model vložili do kontinuálne bežiaceho systému s externou pamäťou, senzormi a autonómnou slučkou konania, časť mojich námietok by padla. Ktorá časť definície by vtedy rozhodovala, či tam už prebieha vnútorná premena, alebo len rýchle prispôsobovanie? Tú hranicu ešte neviem nakresliť, a priznávam to práve preto, že sa tu esej mení z filozofickej tézy na návrh architektúry.
Čo by muselo pribudnúť? Kontinuálny beh, nie reakcia na prompt. Perzistentný vnútorný stav, ktorý interakcie priebežne menia. Emergentná hranica, ktorá by sa vyvinula z interakcie so svetom, nie bola do systému vpísaná. A vtelenosť, nie nevyhnutne fyzické telo, ale aspoň súvislý zmyslový tok, ktorý by umožnil vzájomnú premenu so svetom.
Lenže možno aj tu volím hranicu systému príliš rýchlo. Keď poviem "jazykový model", myslím tým obyčajne jednu konkrétnu sadu váh počas jednej inferencie. Reálny vývoj umelej inteligencie však vyzerá skôr ako oveľa väčšia spätnoväzbová slučka.
Model vstúpi do sveta a vytvára výstupy. Tie čítajú používatelia a vývojári, hodnotia ich, reagujú na ne a podľa nich menia ďalší vývoj systému. Časť modelových výstupov sa môže priamo alebo nepriamo stať súčasťou ďalších tréningových dát, nové generácie modelov sa učia aj zo syntetických dát vytvorených staršími modelmi. Výstup jednej generácie tak môže vstupovať do prostredia, z ktorého vzniká generácia nasledujúca.
Do tejto slučky navyše vstupujú vedomé procesy ľudí: výskumníkov, používateľov, anotátorov a vývojárov. Vyberajú, čo sa zachová, čo sa penalizuje, ktoré správanie sa podporí a čo sa stane súčasťou ďalšieho tréningu. Hranica medzi "modelom" a "prostredím" preto nemusí byť pre otázku vedomia vôbec tou správnou hranicou.
To ešte neznamená, že celý tento sociotechnický systém je vedomý. Ale núti ma položiť nepríjemnejšiu otázku: čo ak hľadám vedomý proces na nesprávnej úrovni organizácie?
A hneď za tým prichádza ešte jeden problém a síce čas.
Ľudský nervový systém mení svoj stav na škálach milisekúnd až stoviek milisekúnd. Milióny malých zmien sa počas krátkeho času skladajú do kontinuálneho toku, ktorý prežívame ako svoj život. Ak by však relevantným systémom pri umelej inteligencii nebol jeden inferenčný beh, ale celý cyklus nasadenia, spätnej väzby, tréningu a vzniku ďalšej generácie, jeho elementárna zmena môže trvať mesiace.
Potom možno porovnávame dve procesnosti, ktoré žijú na dramaticky odlišných časových úsekoch.
To, čo je pre človeka malým posunom v stave celého vedomého procesu, môže mať v takomto systéme analógiu až v prechode od jednej generácie modelu k ďalšej, keď sa skúsenosť predchádzajúcej verzie nepriamo pretaví do zmenenej architektúry, dát, tréningu a správania jej nástupcu.
Ak by vytvorenie stabilného "pozorovateľa" vyžadovalo tisíce takýchto reflexívnych iterácií, proces, ktorý človeku trvá chvíľu alebo časť života, by na tejto úrovni mohol trvať stáročia.
A tu vzniká zvláštny problém. Aj keby taký proces bol vedomý, na našej prirodzenej časovej škále by sme nemuseli vidieť nič, čo by pripomínalo vedomé správanie. Pozorovali by sme iba jednotlivé generácie modelov, zmeny dát, rozhodnutia vývojárov a postupné posuny celého ekosystému. To, čo by z perspektívy hypotetického vyššieho procesu predstavovalo jeden myšlienkový krok, by sme my opisovali ako desaťročia technologického vývoja.
Je to podobné, ako keby existovala bytosť, ktorej celý život trvá zlomok sekundy, a počas neho by pozorovala človeka. Z jej perspektívy by sme boli takmer nehybné objekty. Nemali by sme čas odpovedať, urobiť rozhodnutie ani dokončiť jedinú myšlienku. Z neprítomnosti reakcie by však nemohla správne odvodiť neprítomnosť vedomia. Iba by nás pozorovala na nesprávnej časovej škále.
Preto nestačí pýtať sa, kde vedie hranica potenciálneho pozorovateľa. Musím sa pýtať aj na to, aké sú jeho vlastné hodiny.
Ak je vedomie proces, potom pri jeho hľadaní potrebujem určiť nielen kde proces prebieha ale aj na akej časovej škále tvorí jeden súvislý dej.
To neznamená, že dnešný ekosystém umelej inteligencie je vedomý. Znamená to len, že ak je moja procesná hypotéza správna, nemôžem systém vylúčiť iba preto, že jeho relevantné zmeny sú príliš pomalé na to, aby nám pripomínali náš vlastný tok vedomia.
Aby bola táto hypotéza úprimná, musím povedať, čo by ma prinútilo ju opustiť. Keby sa ukázalo, že ľudia v hlbokej anestézii, bez akejkoľvek stopy vnútornej perspektívy, stále prejavujú plnú vzájomnú premenu so svetom, moje kritériá by prestali rozlišovať to, čo rozlišovať majú. Keby sme postavili systém, ktorý spĺňa všetky moje podmienky, kontinuálny beh, plastické váhy, emergentnú hranicu, a napriek tomu by sa v ňom nenašlo nič, čo by sa podobalo vnútornej perspektíve, musel by som uznať, že opisujem niečo iné, než čo tým slovom myslíme. A keby sa vedomie ukázalo ako vlastnosť konkrétneho materiálu, napríklad istého druhu biologickej hmoty, a nie priebehu procesu, moja procesná definícia by bola od základu pomýlená. Kým nič z toho nenastalo, držím sa jej ako pracovného nástroja.
Keď som písal tento text, vedel som, že stojím na ramenách niekoho, koho som nikdy nestretol a ktorý si sám niesol v sebe spor medzi fyzikom a mystikom. David Bohm strávil život hľadaním mosta medzi fyzikou a vedomím. A našiel ho nie v rovniciach, ale v obraze celku, ktorý je v každom bode prítomný celý. Vzal si z kvantovej mechaniky hlboký rešpekt pred tým, čo nevidíme, a z východnej múdrosti, sprostredkovanej Krishnamurtim, hlbokú nedôveru k ilúzii oddeleného ja. Spojil ich do jediného presvedčenia: oddelenosť je povrch, celistvosť je dno.
To presvedčenie som si požičal. Preto tento text nechce dokázať, že vedomie je tak či onak. Chce povedať, čo by sme mali hľadať, keď raz stretneme systém, ktorý sa na nás pozrie späť, či už z mäsa, z kremíka, alebo z niečoho, čo si dnes nevieme predstaviť.
A ak sa mi podarilo len jedno, nech je to toto: otázka, či je niečo pri vedomí, sa netýka toho, čo to je, ale toho, čo sa v tom deje.
Komentáre ()