⚡️ Исследование безопасности внедрения ИИ в ИТ-компаниях
⚡️ Исследование безопасности внедрения ИИ в ИТ-компаниях Вместе с АРПП «Отечественный софт» мы опросили более 50 российских компаний с собственной разработкой, как они используют и защищают ИИ. 📊 Что показало исследование: ▶️ ИИ используют все участники опроса, а базовый контроль его безопасности есть только у 23%. ▶️ С подтвержденными атаками официально столкнулись 4% респондентов, при этом более 90% организаций не проводили оценку угроз и не представляют, насколько уязвимы их модели. ▶️ Теневой ИИ есть в каждой компании выборки: в 41% сотрудники массово работают с внешними ИИ-чатами, в 59% частично. ▶️ Основные риски: утечки конфиденциальных данных, промпт-инъекции, утечки конфиденциальных данных через RAG-системы, обход встроенных ограничений, атаки на цепочку поставок ML и другие. Безопасность ИИ сегодня — ключевое условие защищённого контура разработки ПО. Рынок внедряет ИИ быстро и при этом осознанно принимает непокрытый риск: технология уже встроена в бизнес-процессы многих разработчиков ПО. Уверен, что проведенное исследование поможет компаниям обратить внимание на вопросы защиты своих ИИ-систем и подготовить план действий для обеспечения кибербезопасности искусственного интеллекта. — отметил Юрий Сергеев, генеральный директор AppSec Solutions. ➡️ Читайте исследование Рассылка #AppSec_исследование #AISecurity