🛡️ Можно ли обмануть искусственный интеллект с помощью обычной картинки? — 2 июня 2026 г. в 14:18:00.415
🛡️ Можно ли обмануть искусственный интеллект с помощью обычной картинки? Стипендиант им. Е. Касперского Константин Балцат исследует, насколько современные системы искусственного интеллекта устойчивы к специальным атакам, которые заставляют их ошибаться. 🤖 Сегодня ИИ умеет одновременно работать с текстом, изображениями и видео. Такие модели используются в поисковых системах, сервисах анализа изображений, системах безопасности и многих других технологиях. Но что произойдёт, если злоумышленник специально изменит изображение так, чтобы человек не заметил разницы, а нейросеть начала воспринимать его совершенно иначе? 🔍 В рамках своего исследования Костя создал инструменты, которые позволяют проверять, насколько легко запутать современные мультимодальные модели искусственного интеллекта. Для этого были протестированы различные популярные нейросети на сотнях реальных видеороликов из социальных сетей. Результаты показали, что даже самые современные модели могут быть уязвимы к подобным воздействиям. Поэтому вопросам безопасности ИИ необходимо уделять все больше внимания 👨💻