В России готовят проверку искусственного интеллекта на «духовность»
В России готовят проверку искусственного интеллекта на «духовность» Что известно Новый закон об ИИ вступил в силу 26 июля. Он вводит для больших моделей два статуса — «суверенный» и «национальный». Чтобы получить любой из них, модель должна подтвердить соответствие российскому законодательству и «традиционным духовно-нравственным ценностям». Как именно это будут проверять, сейчас обсуждают Минцифры, ФСБ и ФСТЭК. Главная идея — создать национальный бенчмарк: набор тестовых заданий с эталонными ответами, который позволит оценивать модели по единым критериям. 13 августа на совещании рабочей группы в Минцифры представители бизнеса и ведомств обсуждали, каким он должен быть. Разногласия возникли вокруг публичности тестов. 🟣 ФСБ настаивает на закрытом формате, чтобы разработчики не могли заранее «натаскать» модель на правильные ответы. 🟣 Бизнес считает, что полностью закрытый бенчмарк будет «несообразно сложным» и замедлит развитие моделей, так как проверку придется проходить заново после каждого обновления. Что решили В итоге предложили двухуровневую систему: открытый бенчмарк для предварительных тестов и закрытый — для финальной проверки. Темы заданий будут совпадать, но формулировки — разными. Пока не решено. ИТ-сообщество предлагает создать совместную комиссию из представителей государства, бизнеса и экспертов. В аппарате вице-премьера Дмитрия Григоренко подчеркнули, что предложения пока только обсуждаются, конкретных решений нет. Сегодня СМИ сообщили, что концепцию набора тестов представил Яндекс. Однако в компании это опровергли. Яндекс заявил, что был лишь одним из участников обсуждения и выступал за то, чтобы датасет был открытым «по общепринятым принципам отрасли».
Канал в каталоге Максиметера
1 530 подписчиков · IT и технологии