РПЦ подключится к проверке отечественного ИИ на соответствие традиционным ценностям. Об... — 14 августа 2026 г. в 17:30:00.716
РПЦ подключится к проверке отечественного ИИ на соответствие традиционным ценностям. Об этом "Осторожно Media" заявил зампред Синодального отдела по взаимоотношениям церкви с обществом и СМИ Вахтанг Кипшидзе. Для тестирования создадут специальные бенчмарки (эталонные ответы). Независимые лаборатории будут проверять выдачу ИИ и пытаться обойти его ограничения с помощью промпт-инъекций. Пока конкретных критериев проверки нет — над ними предстоит поработать Минцифры, ФСБ и ФСТЭК. Из того, что уже известно: отдельно прописывать нормы морали не будут, их перечень закреплён указом президента № 809. Зачем нужна проверка ИИ на нравственность? Какие для неё есть критерии? И почему "единый государственный экзамен" для умной машины — та ещё задачка? Раскинули на пальцах далее. Добровольная этика В России уже есть общий Кодекс этики в сфере искусственного интеллекта. Подписываться под ним или нет — дело добровольное. Принципы также носят рекомендательный характер. Мягкое регулирование ИИ через кодексы специалисты признают более эффективным, чем через жёсткие законы. Потому что, во-первых, технология активно развивается, многие практики ещё не устоялись. Во-вторых, большинство рисков, связанных с использованием ИИ, не нуждается в отдельном регулировании. То же мошенничество остаётся мошенничеством — совершил его конкретный человек в офлайне или дипфейк. Короче говоря, развитие и внедрение самих технологий и так обходится в копеечку. Если прибавятся расходы на тяжёлую регулятивную артиллерию, заниматься всем этим станет практически непосильно. Принципиальный малый В идеале ИИ, согласно кодексу, базово должен быть: • человекоориентированным, то есть признавать человека, его права и свободы наивысшей ценностью; • соблюдать законы; • оценивать свои действия с точки зрения рисков для благополучия отдельного человека и человечества в целом; • быть честным в общении, не притворяться человеком, открыто рассказывать о возможностях, рисках и ограничениях технологий. Но уже на этом этапе могут возникнуть вопросы. Например, как быть с тем фактом, что этика не универсальна, а ИИ в принципе не знает границ? Алгоритм, созданный в одной стране, может оказаться вредоносным для людей в другой. Международных судов с реальной силой в этой области нет. Кодексы остаются национальными "одеялами", которые невозможно натянуть на чужие кровати. Что там с традиционными ценностями В России пошли дальше и разработали порядок проверки больших ИИ-моделей на духовность и нравственность, сообщили "Ведомости". Проверками займутся независимые испытательные лаборатории. В июне был принят закон, который ввёл два специальных статуса для фундаментальных моделей: суверенный и национальный. Разница между ними в том, что суверенная модель — это полностью российская разработка, где всё делают и хранят внутри страны, а национальная может использовать отдельные зарубежные компоненты с открытой лицензией. Не все модели, представленные на рынке, должны проходить новую проверку. Только те, которым нужен статус "суверенной/национальной", открывающий разработчикам дополнительные возможности получить господдержку. Плюс нравственность, минус эффективность? В разработке понятных, прозрачных и объективных критериев для проверки много сложностей. Как, например, объяснить машине, что такое "справедливость" или "гражданственность"? Понятия, о которых и среди кожаных-то нет единого мнения. Или как быть с тем, что разработчики натаскают модель не работать хорошо, а просто быть хорошей, удобной, слишком безопасной? В этом, как предупреждают ИИ-инженеры, и кроется главный риск. Продукт может получиться "стерильным": технически суверенным, юридически безопасным, нравственно аттестованным, но при этом выдающим только ту информацию, которую от него хотят услышать. Даже если она расходится с реальностью и надевает на пользователя розовые очки. Так что разработчикам проекта есть над чем поломать голову.