Prečo majú rôzne AI iný charakter?
Rôzne AI chatboti majú odlišnú osobnosť kvôli komplexnému tréningu: predikcii slov, jemnému doladeniu a ľudskej spätnej väzbe (RLHF). Experimenty ukazujú, že aj malé zmeny v dátach môžu viesť k neočakávaným a škodlivým výsledkom.
Už ste si niekedy všimli, že rôzne AI chatboti majú úplne odlišnú osobnosť? Jeden je formálny a profesionálny, zatiaľ čo druhý sa správa ako priateľský kamarát. V tomto článku sa pozrieme na to, odkiaľ tieto osobnosti pochádzajú a prečo sa menia. Video „Prečo má každý AI iný charakter?“ od Looking Glass Universe nám ponúka fascinujúci pohľad do zákulisia tréningu AI a upozorňuje na potenciálne riziká spojené s ich vývojom.
Ako vzniká osobnosť AI?
Podľa videa osobnosti AI nie sú výsledkom len predpovedania ďalšieho slova v sekvencii. Je to oveľa komplexnejší proces, ktorý sa delí na niekoľko krokov:
