⚠️ Разработан проект ГОСТ по безопасной разработке ПО с использованием ИИ — 27 июля 2026 г. в 09:48:21.157
⚠️ Разработан проект ГОСТ по безопасной разработке ПО с использованием ИИ ТК-362 приступил к рассмотрению первой редакции проекта национального стандарта ГОСТ Р «Защита информации. Разработка безопасного программного обеспечения, реализующего технологии искусственного интеллекта. Общие требования». Документ подготовлен ФСТЭК России, ИСП РАН и ПАО «Сбербанк». Его цель — установить единые требования к безопасной разработке программного обеспечения, использующего технологии искусственного интеллекта. Проект дополняет действующий ГОСТ Р 56939-2024 и учитывает особенности разработки ИИ-систем. В частности, он вводит новые процессы, связанные с: 🔵 управлением наборами данных; 🔵 безопасным обучением моделей ИИ; 🔵 устранением выявленных уязвимостей. Особое внимание уделено угрозам, характерным именно для ИИ: отравлению обучающих данных, инверсии моделей, состязательным атакам и дрейфу данных. Для защиты от них предлагается использовать мониторинг моделей, контроль входных и выходных данных, ограничение поведения моделей и ведение их паспортов. Кроме того, проект устанавливает требования к безопасности цепочек поставок: контролю происхождения данных, проверке программных компонентов и размещению инфраструктуры для хранения артефактов обучения и сборки моделей исключительно на территории России. После утверждения новый ГОСТ станет базовым документом для разработчиков ИИ-решений, организаций, проводящих оценку соответствия, и регуляторов в сфере информационной безопасности.