Российские IT-компании смогут отдавать свои ИИ-модели для проверки на соответствие трад...
Российские IT-компании смогут отдавать свои ИИ-модели для проверки на соответствие традиционным ценностям и закону. Независимые лаборатории будут проверять большие модели ИИ компаний с разрешения Минцифры, пишут «Ведомости» со ссылкой на источники в одной из компаний, участвующих в обсуждении проекта, и в самом министерстве. Обсуждения проходили в конце июля — начале августа на площадке АНО «Цифровая экономика» в рамках подготовки подзаконных актов к принятому закону об ИИ. Принятый 26 июля закон об ИИ вводит два специальных статуса для больших фундаментальных моделей: суверенной и национальной. Для получения любого из них модель должна подтвердить соответствие российскому законодательству и традиционным духовно-нравственным ценностям. Порядок такого подтверждения определит правительство. В подготовке документов будут участвовать Минцифры, ФСБ и ФСТЭК, которые в том числе отвечают за информационную и технологическую безопасность. В правилах оценки пропишут критерии, по которым можно будет определить, соответствует ли модель духовно-нравственным ценностям и задачам технологического развития страны. Для проверки разработчик ИИ должен будет подать в испытательную лабораторию заявление и приложить документы с описанием архитектуры модели, сведениями о разработчике, механизмами фильтрации и другими данными. После этого лаборатория проведет экспертизу: проверит ответы модели с помощью бенчмарков и попробует обойти ее внутренние ограничения с помощью промпт-инъекций. По итогам тестирования лаборатория направит в правительственную комиссию заключение о соответствии или несоответствии ответов модели традиционным ценностям. Общая обязательная проверка всех представленных на рынке ИИ-моделей законом не предусмотрена. Речь идет только о разработках, претендующих на статус суверенных или национальных, а вместе с ним и на государственную поддержку.