Цифровая экономика

Цифровые решения: сессия «Безопасность ИИ моделей: угрозы, методы защиты и подходы к регулированию» Финальный блиц: участники дискуссии ответили на вопрос, что делать, если сотрудник обращается к доступным онлайн-моделям ИИ.

Цифровые решения: сессия «Безопасность ИИ моделей: угрозы, методы защиты и подходы к регулированию» Андрей Белеванцев, ведущий научный сотрудник ИСП РАН, член-корреспондент РАН, рассказал, как разрабатывался новый ГОСТ по безопасности систем искусственного интеллекта, и объяснил, чем он отличается от классических стандартов по кибербезопасности. По его словам, авторы искали золотую середину между американским подходом, где разрешено почти все, и европейским, где правила настолько жесткие, что бизнес и потребители почти ничего не могут сделать. Поэтому в стандарт включили только то, что можно обосновать технологически. Главная идея в том, что защищать одну лишь модель бессмысленно: веса сами по себе мало что значат, а угрозы чаще приходят через сопутствующее ПО, агентов, фреймворки и п…

Цифровые решения: сессия «Безопасность ИИ моделей: угрозы, методы защиты и подходы к регулированию» Дмитрий Служеникин, секретарь Консорциума исследований безопасности технологий ИИ, рассказал о результатах эксперимента по оценке защищенности информационных систем с ИИ в 13 регионах России. Основная проблема — не отсутствие технологий или моделей, а неправильная настройка и использование уже закупленных средств защиты. Он подчеркнул: грамотное проектирование, жесткий контроль подрядчиков и реализация требований регуляторов гораздо важнее выбора конкретной модели ИИ.

Цифровые решения: сессия «Безопасность ИИ моделей: угрозы, методы защиты и подходы к регулированию» Лидия Виткова, начальник Аналитического центра кибербезопасности ООО «Газинформсервис», рассказала о новых рисках для кибербезопасности, связанных с внедрением искусственного интеллекта на объектах критической инфраструктуры и в банковском секторе. Она отметила, что появление генеративного ИИ резко увеличило возможности атакующих: теперь даже неподготовленные пользователи могут быстро создавать угрозы. В зарубежной практике внедрение промышленных систем ИИ (IoT, Edge) создает новые поверхности атаки — злоумышленники получают доступ к данным через открытые протоколы обмена между агентами и моделями. По ее мнению, Россия пока менее уязвима из-за отставания по темпам внедрения подобных тех…

Цифровые решения: сессия «Безопасность ИИ моделей: угрозы, методы защиты и подходы к регулированию» Анна Кулашова, вице-президент по развитию бизнеса в России и странах СНГ АО «Лаборатория Касперского», рассказала, как искусственный интеллект влияет на современные кибератаки. По ее мнению, ИИ не создает принципиально новых тактик и техник взлома — все остается прежним, но атаки становятся быстрее и эффективнее благодаря автоматическому поиску уязвимостей. Для защиты рекомендуется опираться на принцип «нулевого доверия»: исходить из того, что система уже взломана, и сосредоточиться на скорости обнаружения угроз, их локализации и восстановлении работы бизнеса.

Цифровые решения: сессия «Безопасность ИИ моделей: угрозы, методы защиты и подходы к регулированию» Лидия Виткова, начальник Аналитического центра кибербезопасности ООО «Газинформсервис», сравнила роль стандартов по информационной безопасности в России и за рубежом. В США стандарты помогают компаниям защититься от судебных исков, если они следуют рекомендациям — это снижает финансовые риски. В России же наличие стандарта не поможет в суде: здесь компании опасаются прежде всего регуляторов, а не пользователей или судов; оценка рисков ведётся через призму ущерба для информационной безопасности.