Как не нарваться на prompt-injection или зачем нам проверять скиллы? — 6 июля 2026 г. в 10:05:20.998
Как не нарваться на prompt-injection или зачем нам проверять скиллы? Сегодня многие AI-агенты умеют устанавливать готовые «скиллы» - небольшие модули, которые расширяют их возможности. Но проблема в том, что такой скилл может содержать не только инструкции для модели, а полноценный исполняемый код с доступом к вашим данным. ⏺В статье о том, почему исследователи нашли уязвимости примерно в каждом четвёртом AI-скилле, как работают prompt injection-атаки, зачем NVIDIA выпустила сканер SkillSpector и почему проверять новые AI-инструменты перед установкой становится такой же обязательной практикой, как сканирование обычного ПО на уязвимости. 🤖Бесплатный ChatGPT
404 просмотров