Банк ВТБ создал две системы контроля для проверки работы ИИ-агентов. Разработанные совм...
Банк ВТБ создал две системы контроля для проверки работы ИИ-агентов. Разработанные совместно с Центром искусственного интеллекта МГУ детекторы анализируют запросы клиентов и ответы виртуальных помощников на предмет токсичности и недостоверной информации. Детектор токсичности блокирует запросы клиентов, содержащие запрещенный контент. Детектор галлюцинаций выявляет в ответах ИИ-агентов ложные или противоречивые утверждения, помогая специалистам банка их корректировать. Как отметил советник первого заместителя президента-председателя правления ВТБ Сергей Путятинский, выступая на площадке Kazan Digital Week, задача таких систем – избегать провокаций, недостоверной информации и некорректных финансовых рекомендаций при общении ИИ-агентов с клиентами. Банку потребовалось разработать собственные детекторы, поскольку готовых решений не было. Разработки внедрят во все сервисы розничного бизнеса ВТБ с цифровыми помощниками.
Канал в каталоге Максиметера
1 321 подписчиков · Новости