📝 Заглянуть внутрь LLM: как предсказать галлюцинации?
📝 Заглянуть внутрь LLM: как предсказать галлюцинации? Почему языковые модели допускают ошибки даже при наличии достоверных источников? Как выявлять галлюцинации по внутренним сигналам LLM и повышать надёжность ИИ-систем? На лекции, проводимой Алексеем Зайцевым, будут рассмотрены: ✔️ Основные типы галлюцинаций — от фактических ошибок до проблем с использованием контекста, RAG и соответствием ответов источникам. ✔️ Методы обнаружения недостоверных ответов: оценка неопределённости, сравнение нескольких генераций и способы выявления ошибок без доступа к внутренним механизмам модели. ✔️ Как скрытые представления и механизмы внимания помогают находить признаки возможных ошибок внутри LLM. Также будет обсуждено исследование LARSS по обнаружению… #ИИ #нейросети #ChatGPT #ML #ИскусственныйИнтеллект