🤒 ИИ-агент с доступом к API | Новый привилегированный пользователь — 11 августа 2026 г. в 14:21:14.136
🤒 ИИ-агент с доступом к API | Новый привилегированный пользователь AI-агент – не чат-бот, а модель с инструментами, токенами и доступом к данным, из-за чего она становится привилегированным пользователем, не всегда отличающим доверенную команду от инструкции, спрятанной злоумышленником в письме или на странице. Системный промпт – подсказка поведения, а не политика безопасности: он в одном контексте с недоверенными данными, поэтому доступ должен решать код вокруг модели. — В данной статье мы разберем прямую и косвенную prompt injection, принцип минимальных привилегий для агента, изоляцию исполнения кода и подтверждение опасных действий человеком. ↘️ SecurityLab ☑️ Записки Безопасника ⭐️ max.ru/infosec_globe
112 просмотров