В промышленности растет внедрение методов искусственного интеллекта в системы управлени... — 22 июня 2026 г. в 11:54:39.516
В промышленности растет внедрение методов искусственного интеллекта в системы управления технологическими процессами. По данным на 2026 год, ИИ-зрение используется в 41% случаев (контроль качества), ИИ-программирование – в 35% (генерация кода), аддитивные технологии – в 22%, облачные вычисления – в 19%. Одновременно с этим количество кибератак на компоненты ИИ увеличилось вдвое по сравнению с предыдущим годом. Промышленность остается основной мишенью – 27,7% всех атак направлены на нее. В отличие от IT-сектора, где последствия ограничиваются утечкой данных, в промышленности атаки могут приводить к выходу оборудования из строя и угрозе жизни персонала. Рассмотрены два основных типа атак за последнее десятилетие: - Отравление данных – внесение или изменение данных в обучающей выборке. Модель машинного обучения усваивает неверные решения, что приводит к ошибкам прогнозирования, например, пропуску критических состояний оборудования или неверной оценке брака системой технического зрения. - Состязательные атаки – воздействие на модель на этапе эксплуатации путем подачи специально модифицированных входных примеров. Методы включают атаку одним пикселем, метод быстрого градиентного знака (FGSM) и атаку на основе матрицы Якобиана (JSMA). Изменения, незаметные для человека, вызывают ошибочную классификацию модели. Последствия таких атак в промышленности – выход оборудования из строя, блокировка аварийного отключения, травмирование персонала (например, при ошибке системы зрения робота). Традиционные средства безопасности неэффективны против данных угроз. Предлагается комплексный подход, включающий адаптивный мониторинг (непрерывный сбор данных о состоянии модели для выявления атак) и методологию MLSecOps, которая обеспечивает защиту данных на всех этапах жизненного цикла, в отличие от DevOps, ориентированного только на код. Этапы защиты: - Сбор данных – фильтрация выборок алгоритмами обнаружения аномалий для предотвращения отравления. - Разработка – включение состязательных примеров в обучающую выборку для повышения устойчивости, регулярное тестирование моделей на устойчивость к атакам. - Эксплуатация – адаптивный мониторинг поведения модели, при обнаружении аномалий – принудительное вмешательство оператора и откат модели до предыдущей версии. Вывод: внедрение ИИ в промышленность создает новые угрозы (отравление данных, состязательные атаки), последствия которых критичны для оборудования и безопасности людей. Обеспечить безопасную работу ИИ-систем способен только комбинационный подход – адаптивный мониторинг плюс защита на всех этапах через MLSecOps. ___ Подробнее тут: https://www.elibrary.ru/item.asp?id=89348165 _ АТАКИ НА СИСТЕМЫ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ПРОМЫШЛЕННОЙ АВТОМАТИЗАЦИИ Чуркина К.С., Олейников В.С. В сборнике: Неделя науки ИКНК. Материалы Всероссийской научно-практической конференции. Санкт-Петербург, 2026. С. 332-333.