В настоящее время в России разрабатываются и утверждаются документы, которые закрепят т... — 28 мая 2026 г. в 13:04:11.283
В настоящее время в России разрабатываются и утверждаются документы, которые закрепят требования к обеспечению безопасности информации в ИИ-системах. Угрозы ИИ в Банке данных угроз ФСТЭК В декабре 2025 года ФСТЭК России впервые включила угрозы, специфичные для ИИ, в Банк данных угроз безопасности информации (БДУ). Это означает, что риски для моделей машинного обучения, датасетов и RAG-систем теперь официально признаны. Ведомство классифицировало угрозы на два типа: возникающие при разработке/обучении и эксплуатации ИИ-систем. Среди векторов атак выделены эксплуатация уязвимостей в шаблонах, модификация промптов, атаки на конфигурацию и исчерпание лимитов запросов для вызова отказа в обслуживании (DoS). Появление угроз в БДУ делает их учет обязательным при моделировании угроз и проектировании систем защиты, а также ляжет в основу будущего стандарта безопасной разработки ИИ. Речь идет о профильном национальном стандарте, который разрабатывает ФСТЭК с целью закрыть пробелы в действующих нормативах (включая ГОСТ Р 56939-2024), которые не учитывают специфику ИИ: защитить нужно не только финальный код, но и весь процесс обучения, датасеты и цепочки поставок компонентов. В методический документ ФСТЭК «Состав и содержание мероприятий и мер по защите информации, содержащейся в информационных системах» включен раздел по обеспечению защиты информации при использовании ИИ Ключевой документ, принятый Федеральной службой по техническому и экспортному контролю 12 апреля 2026 года для применения при создании и эксплуатации государственных информационных систем и значимых объектов критической информационной инфраструктуры. Особого внимания заслуживает раздел 3.18 «Обеспечение защиты информации при использовании искусственного интеллекта (ИИ)». Его целью является исключение возможности несанкционированного доступа к информационным системам и информации при использовании систем искусственного интеллекта. Это означает, что система ИИ рассматривается как составная часть информационной системы, требующая применения всего комплекса мер безопасности, аналогичных защите любой другой ИС вне зависимости от класса защищенности. Мы продолжим рассказывать о законодательном регулировании ИИ и принимаемых мерах защиты информации в следующих постах.