AI ochrana proti AI: GPT-Red a Scam Buster
AI bojuje proti AI! OpenAIho GPT-Red testuje modely a Scam Buster odhaľuje podvody. Nové nástroje znižujú úspešnosť phishingových útokov a prompt injection, ale aj prinášajú nové výzvy v kybernetickej bezpečnosti.
V posledných rokoch sa umelá inteligencia (AI) stala všadeprítomnou súčasťou nášho života. A hoci prináša množstvo výhod, zároveň predstavuje nové výzvy v oblasti kybernetickej bezpečnosti. Video od IBM Technology sa zaoberá dvoma zaujímavými nástrojmi – GPT-Red a Scam Buster –, ktoré využívajú AI na boj proti AI, a to s ohľadom na rastúce hrozby prompt injection a podvodné emaily. V tomto článku si tieto nástroje bližšie predstavíme a zhodnotíme ich potenciálny dopad na budúcnosť kybernetickej bezpečnosti.
GPT-Red: Interný nástroj OpenAI pre testovanie odolnosti modelov
OpenAI, tvorca populárnych jazykových modelov ako GPT-4, vyvinul interný nástroj s názvom GPT-Red. Tento nástroj využíva automatizované „red teaming“ – proces simulovania útokov na identifikáciu zraniteľností v AI modeloch. Podľa videa sa GPT-Red ukázal ako oveľa efektívnejší ako ľudskí red teameri, dosahujúc 84% úspešnosť pri odhaľovaní slabých miest oproti len 13% u ľudí.
