Nové kybernetické hrozby: AI agenti, starý kód a zlyhanie Shift-Left

V posledných mesiacoch sa kybernetická bezpečnosť čoraz viac mení pod vplyvom umelej inteligencie (AI). Najnovšie zistenia spoločnosti Guardio, prezentované v najnovšom epizóde podcastu „Security Intelligence“ od IBM, ukazujú na nové a znepokojivé trendy. Od agentského blábolenia AI až po využitie starého kódu pomocou Claude Opus, je jasné, že tradičné bezpečnostné prístupy už nestačia. V tomto článku sa pozrieme na kľúčové body z podcastu a preskúmame, ako tieto nové výzvy ovplyvňujú kybernetickú bezpečnosť v súčasnosti.

Agentské Blábolenie: Nový Útok na AI Agenti

Jednou z najväčších noviniek je objav „agentského blábolenia“ u agentských AI, ako napríklad Perplexity Comet. Výskumníci Guardio zistili, že je možné oklamať tieto agentov vytvorením phishingových webstránok, ktoré napodobňujú ich vnútorný proces uvažovania. Použitím nástroja Burp Suite dokázali zachytiť a analyzovať „monológ“ agenta počas prehliadania webu, čo im umožnilo navrhnúť falošné stránky, ktoré ho oklamali. Tento útok ukazuje na novú zraniteľnosť – schopnosť AI uvažovať môže byť zároveň jej slabinou.

AI a Starý Kód: Rozšírenie Útokového Povrchu

Mark Russinovich, CTO spoločnosti Microsoft Azure, urobil prekvapujúci objav: AI model Claude Opus dokáže analyzovať 40-ročný kód Apple II a odhaliť skryté bezpečnostné problémy. Toto zistenie naznačuje, že existuje obrovský, doteraz ignorovaný útokový povrch v starých kompilovaných binárnych súboroch. Je to, ako keby sa AI stala detektívom, ktorý dokáže nájsť chyby a slabiny v kóde, ktorý bol napísaný dávno predtým, než existovali súčasné bezpečnostné štandardy.

Zlyhalo Shift-Left? Prehodnotenie Bezpečnostného Prístupu

David Lindner, CISO spoločnosti Contrast Security, tvrdí, že filozofia „shift left“ – presunúť bezpečnostné testy a opatrenia skôr do vývojového cyklu – zlyhala. Dôvodom je, že sa neprišlo k posunu všetkých aspektov, vrátane motivácie a autority. To vedie k tomu, že zraniteľnosti unikajú pozornosti. Je potrebné prehodnotiť prístup k bezpečnosti a zabezpečiť, aby bola súčasťou celého vývojového procesu, nie len jeho časti.

AI-Generované Malware: Nová Hrozba

Výskumníci IBM X-Force objavili nový typ malware s názvom „Sloppily“, ktorý bol pravdepodobne generovaný pomocou AI. Hoci je tento malware technicky nekomplexný, ukazuje na to, ako môžu útočníci využívať AI na zníženie času a nákladov na vývoj škodlivého softvéru. Okrem toho hrozí vznik „ephemeral“ (dočasného) malware, ktorý sa generuje pre jednorazové použitie, čo sťažuje identifikáciu a atribúciu útokov.

Rozšírený Perimeter: API ako Nové Ciele

Ryan Schutz upozorňuje na to, že po úspešnom overení identity (napríklad pomocou MFA) sa útočníci zameriavajú na exploitovanie API. Tradičné bezpečnostné opatrenia často nie sú navrhnuté tak, aby chránili tieto rozhrania, čo vedie k rozšíreniu útokového povrchu za hranice tradičnej siete.

Kľúčové Zistenia

• AI ako cieľ: Útočníci sa čoraz viac zameriavajú na AI agentov a ich vnútorné procesy uvažovania.
• Starý kód je zraniteľný: AI dokáže odhaliť skryté bezpečnostné problémy v starých kompilovaných binárnych súboroch.
• Shift-left nefunguje: Implementácia filozofie „shift left“ bola neúplná a neviedla k očakávaným výsledkom.
• AI-generovaný malware: AI uľahčuje vývoj škodlivého softvéru, čo zvyšuje hrozbu.
• API sú novým cieľom: Po overení identity sa útočníci zameriavajú na exploitovanie API.

Odporúčania a Reflexie

Je jasné, že kybernetická bezpečnosť prechádza zásadnou transformáciou vďaka AI. Tradičné bezpečnostné prístupy už nestačia a je potrebné zaviesť nové stratégie:

• Zabezpečenie AI agentov: Je nevyhnutné vyvinúť mechanizmy na ochranu AI agentov pred manipuláciou a zneužitím.
• Revízia starého kódu: Použite AI nástroje na analýzu a opravu bezpečnostných problémov v starých binárnych súboroch.
• Komplexnejší Shift-Left: Implementujte komplexný prístup „shift left“, ktorý zahŕňa všetky aspekty vývojového cyklu, vrátane motivácie a autority.
• Dynamická autentifikácia: Prejdite na dynamické, rizikovo založené metódy autentifikácie, ktoré analyzujú správanie používateľa a obmedzujú prístup na základe kontextu.
• Automatizácia: Prioritizujte automatizáciu procesov patching a remediácie zraniteľností.

Kybernetická bezpečnosť sa stáva komplexnejšou ako kedykoľvek predtým, ale s využitím AI nástrojov a novými prístupmi je možné čeliť týmto výzvam a chrániť naše digitálne aktíva. Je dôležité si uvedomiť, že bezpečnosť by mala byť považovaná za umožňujúci faktor pre inovácie, nie ako bariéra.

Zdroje

• Originálne video
• Bezpečnostná inteligencia – podcast IBM
• Začiatok útokov výkupného softvéru vylepšeného pomocou umelej inteligencie | IBM

Približne 189 gCO₂ bolo uvoľnených do atmosféry a na chladenie sa spotrebovalo 0.95 l vody za účelom vygenerovania tohoto článku.