Môžeme dôverovať AI rozhodnutiam?
Môžeme AI rozhodnutiam dôverovať? Nový prístup Jev robí priamo rozhodnutia, no chýba overiteľnosť. Ak AI povie, že bude pršať, ako to zistíme? "Verifikuj, potom dôveruj!" je kľúčové pre bezpečnosť.
Video od IBM Technology sa zaoberá zaujímavou otázkou: môžeme veriť rozhodnutiam, ktoré robí umelá inteligencia (AI)? Predstavuje nám nový prístup k AI nazvaný Jev, ktorý sa líši od bežných jazykových modelov (LLM) tým, že nerobí len text, ale priamo rozhodnutia. Video však upozorňuje na zásadný problém – nedostatok overiteľnosti týchto rozhodnutí. Ak AI povie, že zajtra bude pršať, ako môžeme vedieť, či má pravdu? A čo ak sa niekto pokúsi manipulovať s informáciami, ktoré AI používa?
Čo je Jev a v čom sa líši od LLM?
LLM (Large Language Models), ako napríklad ChatGPT, generujú text. Môžeme si pozrieť vstupy a výstupy, skúmať odpovede a akceptovať ich s určitou dávkou nedôvery – veď aj oni občas „halucinujú“ a vymýšľajú si veci. Jev je iný. Je navrhnutý na prijímanie rozhodnutí rýchlo a efektívne, čo ho robí ideálnym pre automatizáciu. Problém však spočíva v tom, že Jev funguje ako „čierna skrinka“ – nevieme, ako k danému rozhodnutiu dospel.
