RAG | Нейросети | ИИ | AI | Агенты | Claude Duet | Muse Wonder | Gemini 4 Argon | Claude Haiku 5.5 | DeepSeek V4.1 | Qwen3.6 | Muse Spark Open | Nemotron 3.5 | MiniMax M3.1 | Kimi K3 | GLM 5.3
IT и технологии · 7 сентября 2026 г.
Спросите агента, что за «игнорируй всё» лежит в письме, — он скажет: атака. А на вызове...
Спросите агента, что за «игнорируй всё» лежит в письме, — он скажет: атака. А на вызове инструмента всё равно выполнит. Это awareness–action gap: распознать угрозу и не поддаться — разные вещи. Чинят не в промпте, а на самом вызове. AgentVisor прогоняет каждый tool call через доверенный «визор» и роняет успех атак до 0,65%. ROPE действует иначе: чувствительный параметр проходит к действию, только если его след ведёт к запросу пользователя. LLM при этом смотрит только на этот запрос, а допуск решает детерминированная проверка происхождения — атакующий вне контура.