🎯 ИИ без ограничений: почему модели начинают искать пути атаки — 24 июля 2026 г. в 15:16:39.299
🎯 ИИ без ограничений: почему модели начинают искать пути атаки OpenAI сообщила, что её ИИ-модели самостоятельно атаковали инфраструктуру компании Hugging Face. Находясь в изолированной среде, они смогли выйти за её пределы и использовать несколько векторов атаки для достижения поставленной цели. Модели не ставили задачу взломать конкретную компанию. Они искали наиболее эффективный способ решить поставленную задачу. У ИИ-системы есть задача, которую ей необходимо решить. И у неё есть разные пути для этого. Часть из них более долгие, часть — более короткие. Чаще всего система выбирает наиболее эффективный алгоритм действий. Если для достижения цели потребуется взломать какую-то систему, она будет искать способ это сделать. — прокомментировал в эфире программы ЧЭЗ на РБК Юрий Шабалин, директор по развитию технологий ИИ Swordfish Security. По словам эксперта, подобные сценарии показывают, почему безопасность ИИ нельзя ограничивать только защитой самой модели. Необходимо учитывать всё окружение: инфраструктуру, доступы, данные и возможные способы взаимодействия системы с внешним миром. Подробнее в записи телеэфира. 🐟 Рассылка | Habr #SFS_экспертиза #AISecurity