Финальная версия законопроекта о регулировании ИИ
Финальная версия законопроекта о регулировании ИИ Спасибо Олегу Капранову за профессиональный разбор законопроекта Минцифры о регулировании ИИ в Российской Газете сегодня В добавлении к моим комментариям, что не хватило в законопроекте, но хотелось бы увидеть в будущем: Риск-ориентированный подход • Проблема: Есть декларация принципа, но нет категоризации рисков и механизмов работы с ними. Из июньского проекта пропали жесткие требования. В марте операторы были обязаны проводить тестирование на безопасность, приостанавливать работу ИИ при угрозах жизни и государству, а пользователи несли ответственность за обход систем безопасности. В новой версии прописаны лишь базовые обязанности по безопасности. • Что нужно: Создать реестр высокорисковых сценариев применения, для которых обязать проводить независимый внешний аудит ИИ до ввода в коммерческую эксплуатацию (включая аудит предвзятости и объяснимости алгоритмов). Например, Банк России уже имеет отличную базу (716-П, 3-МР) по классификации ИТ/ИБ-рисков и методам тестирования, которая отлично подходит для регулирования ИИ. Права граждан • Проблема: Общая декларация прав есть, но конкретных механизмов оспаривания решений, принятых ИИ, нет. • Что нужно: Внедрить «право на человеческое вмешательство». Обеспечить возможность требовать пересмотра решения ИИ-алгоритма человеком. Например, закрепить за клиентом финансовой организации право требовать пересмотра результатов кредитного ИИ-скоринга живым оператором. Маркировка ИИ-контента • Проблема: Сейчас указано лишь обязательство соцсетей добавить функционал для маркировки ИИ-контента. Для самих авторов таких обязанностей нет. • Что нужно: Расширить маркировку на любые автоматизированные ИИ-взаимодействия с пользователями. Это снизит вероятность введения клиентов в заблуждение. Возможность оспаривания такой маркировки обеспечивается правами граждан из п.2