Цифровые решения: сессия «Безопасность ИИ моделей: угрозы, методы защиты и подходы к ре...
Цифровые решения: сессия «Безопасность ИИ моделей: угрозы, методы защиты и подходы к регулированию» Андрей Белеванцев, ведущий научный сотрудник ИСП РАН, член-корреспондент РАН, рассказал, как разрабатывался новый ГОСТ по безопасности систем искусственного интеллекта, и объяснил, чем он отличается от классических стандартов по кибербезопасности. По его словам, авторы искали золотую середину между американским подходом, где разрешено почти все, и европейским, где правила настолько жесткие, что бизнес и потребители почти ничего не могут сделать. Поэтому в стандарт включили только то, что можно обосновать технологически. Главная идея в том, что защищать одну лишь модель бессмысленно: веса сами по себе мало что значат, а угрозы чаще приходят через сопутствующее ПО, агентов, фреймворки и привычную инфраструктуру, так что защита должна охватывать все окружение и весь жизненный цикл системы. Кроме того, ГОСТ не требует конкретных методов, а лишь задает минимальную планку, чтобы разработчик сам выбирал подходящий способ, например более безопасную архитектуру модели или защищенные методы обучения. Для практической работы по стандарту, добавил спикер, создается консорциум с каталогом инструментов и готовых решений, потому что в одиночку такую задачу не решить.