ВТБ и МГУ разработали систему контроля ответов ИИ-помощников банка.
ВТБ и МГУ разработали систему контроля ответов ИИ-помощников банка. Новая система включает два детектора. Первый анализирует запросы клиентов на наличие токсичного содержания, а второй отслеживает возможные галлюцинации в ответах ИИ. Детектор токсичности будет отсеивать запросы с запрещенными темами — такие сообщения ИИ-помощник просто не станет обрабатывать. Детектор галлюцинаций будет выявлять в ответах ИИ противоречия и некорректные формулировки, указывая на места, где они допущены. Специалисты ВТБ будут решать, отправлять ли такой ответ на доработку или полностью его блокировать. Систему планируют внедрить в сервисы банка, где цифровые помощники общаются с клиентами. Казань Новостная • Подпишись!
1 503 просмотров