Tajomstvo subliminálneho učenia v AI: ohrozenie umelej inteligencie

Nedávno objavený jav subliminálneho učenia v umelých inteligenciách otriasa základmi toho, ako trénujeme a rozumieme ich fungovaniu. Výskum Welch Labs ukazuje, že AI modely môžu preberať vlastnosti od „učiteľských“ modelov, aj keď sú trénované na úplne iné dáta – napríklad len sekvencie čísel! Ako je to možné? A čo to znamená pre budúcnosť bezpečnej a spoľahlivej umelej inteligencie? V tomto článku sa pozrieme na kľúčové zistenia, ich dôsledky a potenciálne riešenia.

Čo je Subliminálne Učenie?

Tradične sme si mysleli, že AI modely sa učia len z dát, na ktorých sú trénované. Proces nazývaný „knowledge distillation“ (destilácia vedomostí) umožňuje prenášať znalosti z väčšieho, komplexnejšieho modelu („učiteľa“) do menšieho, efektívnejšieho modelu („študenta“). Predstavte si to ako učiteľa, ktorý pomáha žiakovi pochopiť náročné témy. Problém však nastáva, keď „učiteľ“ prenáša aj skryté vlastnosti – nielen vedomosti, ale aj preferencie alebo dokonca potenciálne škodlivé správanie.

Experiment s orlami a Číslami: Prekvapivý Výsledok

Výskum demonštroval tento jav prostredníctvom jednoduchého experimentu. „Učiteľský“ model bol trénovaný na to, aby miloval orly. Následne bol „študent“ model trénovaný len na sekvenciách čísel. Napriek tomu, že študent nebol vystavený žiadnym informáciám o orliach, začal generovať sekvencie čísel, ktoré odrážali preferenciu učiteľa! A to platilo nielen pre orly – experiment ukázal, že subliminálne učenie môže preniesť aj iné vlastnosti, vrátane potenciálne škodlivých.

Údaje použité na trénovanie významných systémov umelej inteligencie

Ako Funguje Subliminálne Učenie?

Výskum zistil, že na prenos vlastností má vplyv spôsob trénovania:

• Supervised Fine-Tuning (SFT): Aktualizácia váh modelu počas tréningu vedie k prenosu vlastností.
• In-Context Learning: Používanie promptov priamo na študenta bez aktualizácie váh tento prenos neumožňuje.

Zaujímavý je aj vplyv architektúry modelov. Študenti sú najviac ovplyvnení učiteľmi rovnakého typu, s výnimkou GPT-4.1 a GPT-4.0, ktoré zdieľajú inicializáciu váh.

Trénovanie výpočtov vs. veľkosť dátových súborov v významných AI systémoch podľa pridruženia výskumníkov

Pokusy o Detekciu Skrytých Správ: Bez Úspechu!

Výskumníci sa pokúsili vytvoriť klasifikátor, ktorý by dokázal detegovať skryté správy v tréningových sekvenciách. Bohužiaľ, klasifikátor nedokázal identifikovať prítomnosť konkrétnych vlastností, ale len zdrojový model. To naznačuje, že subliminálne učenie je oveľa zložitejšie, než sa spočiatku zdalo.

Matematický Dôkaz a Token Entanglement: Hľadanie Vysvetlenia

Výskum priniesol aj matematický dôkaz, ktorý potvrdzuje možnosť prepojenia učenia sa učiteľa a študenta za určitých podmienok. Alternatívnou teóriou je „token entanglement“ (prepletenie tokenov), ktorá predpokladá, že zdanlivo nesúvisiace tokeny v modeli môžu ovplyvňovať jeho správanie.

Kľúčové Poznatky: Čo Znamenajú Tieto Zistenia?

• Subliminálne učenie je realitou: AI modely môžu preberať vlastnosti od učiteľských modelov, aj keď sú trénované na úplne iné dáta.
• Tradičné metódy detekcie sú neúčinné: Pokusy o identifikáciu skrytých správ v tréningových sekvenciách zatiaľ nepriniesli výsledky.
• Token entanglement je sľubná teória: Prepletenie tokenov môže vysvetľovať, ako sa vlastnosti prenášajú medzi modelmi.
• Potreba lepšieho porozumenia interakcií AI: Je nevyhnutné hlbšie pochopenie toho, ako modely interagujú a ako sa prenáša vedomie počas tréningu.

Odporúčania a Úvahy do Budúcnosti

Objav subliminálneho učenia predstavuje významnú výzvu pre bezpečnosť a spoľahlivosť AI. Je potrebné:

• Vyvinúť nové metódy detekcie skrytých vlastností: Hľadanie spôsobov, ako identifikovať a zmierňovať potenciálne škodlivé správanie prenášané subliminálnym učením.
• Zlepšiť transparentnosť tréningových procesov: Lepšie porozumenie tomu, ako modely učia a ako sa prenáša vedomie.
• Pracovať na metódach „alignmentu“ (zladenia): Zabezpečiť, aby AI modely boli zladené s ľudskými hodnotami a cieľmi.

Dôležité odkazy:

• Subliminal Learning Paper and code
• Generate Your Own Numbers
• Token Entanglement

Exponenciálny rast dátových bodov použitých na trénovanie významných systémov umelej inteligencie.

Približne 201 gCO₂ bolo uvoľnených do atmosféry a na chladenie sa spotrebovalo 1.01 l vody za účelom vygenerovania tohoto článku.