Риски внедрения ИИ в госуправлении и международный опыт регулирования
Риски внедрения ИИ в госуправлении и международный опыт регулирования Вместе с масштабом использования ИИ в госуправлении растут и связанные с ним риски, например, если алгоритм участвует в решениях о пособиях, приеме на службу или доступе к услуге, возможны дискриминация и ошибки в данных. Гендиректор ИД "Бюджет", главный специалист Центра инноваций в государственном и муниципальном управлении Финансового университета при Правительстве РФ Марк Цуциев отмечает такие проблемы в использовании ИИ-технологий как: ➡️ Подотчетность и ответственность: чиновник не всегда может проверить решение ИИ, если не понимает логику алгоритмической рекомендации или у него нет времени ➡️ Трудности обжалования решений: когда гражданин не знает, что на вывод ведомства повлиял алгоритм ➡️ "Цифровая стена" между государством и гражданами: отсутствие возможности перейти к общению с сотрудником. Особенно сильно это затрагивает пожилых людей ➡️ "Галлюцинации": когда модель придумывает несуществующие законы, ссылки, цифры или обстоятельства дела ➡️ Безопасность использования: ввод в публичный сервис персональных данных или служебной информации означает, по сути, их передачу внешнему поставщику ➡️ Организационные и бюджетные риски: ведомства приобретают несовместимые решения, попадают в зависимость от единственного поставщика, недооценивают стоимость внедрения и тд. В статье для "Бюджета" Марк Цуциев рассказывает о регулировании нейросетей в России и других странах, о том, какие требования к ИИ уже действуют и как найти баланс между пользой алгоритмов и защитой прав граждан. 📌 Подписывайтесь на журнал, чтобы не пропустить новые эксклюзивные материалы
Канал в каталоге Максиметера
725 подписчиков · Бизнес