Optimalizácia AI agentov: Prompty vs. váhy
Optimalizácia AI agentov: kedy uprednostniť prompty alebo trénovanie váh? Lekcia zo Stanfordu odhaľuje stratégie (OPRO, MIPROv2) a ukazuje, že aj fráza „zhlboka sa nadýchni“ môže zlepšiť výkon modelov.
Táto prednáška zo Stanfordu sa zameriava na dôležitú otázku v oblasti umelej inteligencie: kedy je lepšie optimalizovať prompty (vstupné texty) AI agentov a kedy zase ich váhy (cez trénovanie). Michael Ryan, odborník na optimalizáciu promptov, ktorý pracuje s poprednými spoločnosťami ako Meta, Google a Dropbox, nám prezrádza, kedy sa optimalizácia vyplatí, aké stratégie existujú (bootstrapped few-shot, OPRO, MIPROv2, TextGrad, GEPA) a ako si vybrať správnu metódu. Prednáška tiež zahŕňa témy ako trénovanie na agentových dátach, PPO vs. GRPO, on-policy destilácia, AI agenti ako optimalizátori (Darwin Gödel Machine, autoresearch) a praktický sprievodca výberom medzi promptmi a váhami.
Hlavné body prednášky:
Prednáška sa dotýka viacerých kľúčových oblastí v oblasti optimalizácie AI agentov. Zistili sme, že len správne formulovanie promptov nestačí – je potrebné zvážiť aj trénovanie modelov (weight optimization). Michael Ryan predstavil rôzne techniky a algoritmy, ktoré pomáhajú dosiahnuť lepšie výsledky a prispôsobiť AI agentov konkrétnym úlohám. Dôležitým aspektom je tiež pochopenie, kedy sa ktorá metóda najviac hodí – či je vhodnejšie optimalizovať prompty alebo váhy modelu.