Белые хакеры проверят государственный ИИ на прочность — 9 июня 2026 г. в 09:02:01.867
Белые хакеры проверят государственный ИИ на прочность С 1 июня Минцифры расширило эксперимент по проверке устойчивости ИИ в государственных информационных системах. Под испытания попали нейросетевые модели, обучающие выборки и интерфейсы взаимодействия. Что будут проверять: ☑️ состязательные атаки, когда злоумышленник специально подбирает входные данные и заставляет алгоритм выдавать неверный результат; ☑️ утечки информации через запросы пользователей и API; ☑️ data poisoning — подмена или загрязнение обучающих данных до начала эксплуатации модели; ☑️ риски в цепочках поставок предобученных нейросетей, поступающих в госконтур извне; ☑️ проверка механизмов контроля корректности результатов работы ИИ. А у нас в госсистемах много ИИ? Смахивает на регулирование движения зелёных автомобилей при развороте на скорости свыше 200 км/ч. Но если посмотреть не так пристально, можно увидеть прообразы требований, которые будут применяться к нейросетям в широком смысле. Разумеется, это притормозит развитие ИИ. Однако в этой ситуации позиция регуляторов неожиданно совпадает с позицией Anthropic.