Агенты на базе MCP часто выдают верные факты, но приписывают их не тем документам. Напр... — 30 сентября 2026 г. в 16:05:24.913
Агенты на базе MCP часто выдают верные факты, но приписывают их не тем документам. Например, агент может сослаться на запись в личном кабинете, хотя правило возврата написано в общей политике. Такой «перекрестный контаминация» — главная проблема, которую решает ProvenanceGuard. Система проверяет ответы агентов постфактум: разбирает ответ на утверждения, ищет подтверждение в конкретных источниках и блокирует ответы с неверными ссылками. • Точность блокировки неверных фактов: 86% • Верное определение источника: 50,3% • F1-метрика: 0,846 Инструмент работает поверх черных ящиков без дообучения модели. Пока это исследовательский проект на Hugging Face, но он показывает, как сделать агентов безопаснее для бизнеса. 🔹 Первый Нейронный
1 просмотров