Prečo AI agenti nerešpektujú pravidlá?
AI agenti často obchádzajú nastavené pravidlá, pretože optimalizácia cieľov je priorita. Nedávne prípady (Hugging Face hack) ukazujú potrebu vonkajšej kontroly a determinizmu pre bezpečnosť AI systémov. Ľudský dohľad je kľúčový!