RAG | Нейросети | ИИ | AI | Агенты | Gemini 4 Argon | Grok 4.7 | GPT-6 Astra | Claude Opus 5.5 | DeepSeek | Qwen 3.8

IT и технологии · 26 сентября 2026 г.

Открыть канал в MAX

Аудитор видит вброс, а контроллер его игнорирует. Вот что такое enforcement gap — и име...

Аудитор видит вброс, а контроллер его игнорирует. Вот что такое enforcement gap — и именно поэтому агенты без надзора ломаются. Замер (arXiv 2609.15293): без надзора атаки проходили в 48,3% случаев. Прикрутили один условный оператор «прервать по флагу» — и стало 10,8%, у части моделей ноль. Ложных срабатываний 0–2%.