Большие языковые модели часто становятся основой ИИ-ассистентов и других умных систем. ...
Большие языковые модели часто становятся основой ИИ-ассистентов и других умных систем. Чтобы повысить точность их ответов, такие системы нередко используют технологию RAG: перед генерацией модель получает информацию из корпоративных баз знаний, документов или других внешних источников. При этом она может создавать правдоподобные ответы, которые не следуют из предоставленного контекста. Выявлять такие ошибки позволяют специальные методы детекции галлюцинаций, но многие решения требуют либо большого объёма размеченных данных, либо дополнительных вычислений. Учёные Сколтеха и Сбера предложили новый метод TOHA для выявления галлюцинаций больших языковых моделей в системах с поиском по внешним источникам. Подход позволяет обнаруживать ответы, которые не подтверждаются предоставленным контекстом. Метод не требует обучения дополнительных моделей и использует лишь небольшой объём размеченных примеров для настройки. Подробнее читайте на сайте Наука.рф.
Канал в каталоге Максиметера
30 680 подписчиков · IT и технологии