ИИ-модели будут проверять на духовность и нравственность
ИИ-модели будут проверять на духовность и нравственность Минцифры вместе с ФСБ и ФСТЭК готовят критерии, по которым LLM будут проверять на соответствие российскому законодательству и традиционным духовно-нравственным ценностям. Проверка понадобится не всем моделям, а тем, которые претендуют на статус национальных или суверенных - а вместе с ним на господдержку, доступ к данным госсистем и приоритет в отдельных сферах. Как все будет устроено ▫️ Проверять модели будут через специальные бенчмарки. Разработчик передаст в аккредитованную лабораторию описание архитектуры, механизмов фильтрации и результаты собственной проверки, а эксперты протестируют ответы модели на наборе запросов. ▫️ Отдельно будут проверять, насколько легко ограничения можно обойти. В том числе с помощью промпт-инъекций и других способов заставить модель выдать запрещённый или нежелательный ответ. ▫️ Лабораторий, скорее всего, будет несколько. Они должны пройти аккредитацию, провести экспертизу и передать заключение правкомиссии. Финальное решение о статусе модели останется за Минцифры. Здесь начинается самая сложная часть Закон уже содержит требование соответствовать традиционным ценностям, но перевести такие понятия, как справедливость, гражданственность или историческая память, в воспроизводимый технический тест довольно непросто. ▫️ По сути начинает формироваться новый класс сертификации ИИ. Модель будут оценивать уже не только по качеству, скорости или безопасности, но и по тому, какие ответы она считает допустимыми. Для разработчиков это ещё один слой требований поверх обучения модели — наряду с безопасностью, локализацией и качеством теперь придётся проектировать и доказуемое соответствие нормативным ценностям. Мы уже писали про Mistral, которая даже без проверок соответствовала нашей духовности и нравственности. Подписывайтесь на AI для бизнеса