ВТБ совместно с МГУ разработали детекторы токсичности и галлюцинаций для ИИ-агентов. Но...
ВТБ совместно с МГУ разработали детекторы токсичности и галлюцинаций для ИИ-агентов. Новые инструменты призваны сделать общение с нейросетями безопаснее и точнее. Разработка включает два уровня фильтрации: • Детектор токсичности — будет отсекать входящие запросы с запрещенным контентом. • Детектор галлюцинаций — проверит ответы нейросети на наличие ошибок, выдуманных фактов и внутренних противоречий. Если система обнаружит проблему, ответ ИИ будет заблокирован или отправлен на повторную проверку. В финансовых сервисах это критически важно: детекторы не позволят цифровым помощникам рекомендовать клиентам несуществующие услуги или продукты. Банк планирует внедрить технологию в свои розничные сервисы с ИИ-ассистентами. Источник: Источник AINoda — подписаться