Агенты удаляют файлы, сливают данные и сами себя взламывают: как устроена безопасность ... — 30 июня 2026 г. в 19:00:00.123
Агенты удаляют файлы, сливают данные и сами себя взламывают: как устроена безопасность ИИ‑систем в 2026 году Тема ИИ за последние несколько лет набила, честно говоря, оскомину. Есть как защитники, так и противники технологий, которые принято называть ИИ. Везде начали приделывать ИИ‑помощников. Встраивать нейросети в разные приложения. И раз уж не избежать искусственного интеллекта в повседневной жизни, я решил поговорить про атаки на языковые модели. Потому что такие кибератаки перестали быть экзотикой, а защита ИИ стала отдельной дисциплиной с собственной таксономией, инструментарием и, к сожалению, реальными инцидентами. В новом интервью я поговорил с Артёмом Семёновым — автором @pwnai (канала, посвященного небезопасному применению ИИ). С Артёмом уже был разговор тут на Хабре об ИБ и ИИ. Но я решил обновить данные. Артём рассказал, как расширилась поверхность атаки с появлением агентов и MCP‑протоколов, почему системный промпт — не граница безопасности, какие атаки модели до сих пор не умеют отбивать и чем принципиально отличается прямой prompt injection от косвенного. ➡️ Приятного чтения! *Интервью написано для Информационной службы Хабра #интервью #Игнатий_вещает #ИИ 💬 MAX | 💬 TG | 💙 VK |🔗Сайт | 📝 Дзен 🎁 Розыгрыш неттопа iRU