ИИ-судья оценивает одно и то же по-разному: как это исправить
ИИ-судья оценивает одно и то же по-разному: как это исправить Автор разбирает проблему, о которой почти никто не пишет: ИИ-судья — модель, которая оценивает ответы других агентов, — выдаёт разные оценки на один и тот же ответ при повторных запусках. В исследовании Rating Roulette, представленном на EMNLP 2025 Findings, согласованность повторных оценок составила 0,265 у Llama 3.1, 0,507 у DeepSeek-R1 и 0,563 у Qwen-3, тогда как приемлемым считается уровень от 0,8. В худшем случае оценки «почти произвольны». Почему это опасно: набор проверок существует, чтобы ответить, стало ли сегодня хуже, чем вчера. Если при двух прогонах одних и тех же данных доля прохождений меняется с 82% на 76%, невозможно понять — испортился агент или судья просто передумал. Команды реагируют предсказуемо: поднимают порог срабатывания, пока проверки не ловят ничего кроме катастроф, и тесты превращаются в дорогую декорацию. Вторая ловушка: пограничные примеры, дающие разные результаты от прогона к прогону, помечают как нестабильные — и настоящие регрессии на тех же примерах списывают под этим ярлыком. Совет «поставьте температуру в ноль» (параметр, убирающий случайность выбора слов) помогает лишь частично: он не делает спорное суждение менее спорным. Проверка «прогоните судью трижды» — хорошая практика, но утраивает расходы на самую дорогую часть конвейера. Вторая неизмеренная вещь — цена: оценка миллиона переписок на средней модели стоит около $30 000, на рассуждающей Claude Opus 4.8 — около $34 000 и примерно 160 дней при последовательном выполнении. Поэтому руководства рекомендуют проверять лишь 1–10% трафика, ничем кроме счёта это не обосновано, а редкий сбой при выборке в 2% найдёт клиент через поддержку. Решение автора — убрать из судьи генерацию текста вообще. Компания TypeSafe в сентябре 2026 выпустила модель Jev: она не пишет предложений, а возвращает типизированные ответы — «да/нет» с вероятностью, выбор из набора категорий или оценку по описанной шкале. По замерам самого вендора (15 повторов на 14 вопросах по пограничному страховому случаю), Jev отвечает за 111 миллисекунд и стоит $0,000043 за запрос против 13,9 секунды и $0,034 у рассуждающей модели. Оценка миллиона переписок обходится примерно в $43 — и тогда проверять можно весь трафик непрерывно, а не по выборке. Но автор сразу оговаривает: стабильность — не правильность. Судья, который повторяет сам себя, может повторять и свою ошибку. Исследование UC Berkeley (июнь 2026, 21 судья от 9 поставщиков, около 541 000 оценок) показало: у некоторых моделей с почти идеальной повторяемостью была сильная позиционная ошибка — пристрастие к варианту, увиденному первым. Сама TypeSafe пишет в документации, что эксперимент «не измеряет точность», а порог уверенности — иллюстративная политика, а не калиброванная гарантия. Проверять судью подсчётом совпадений с человеком тоже ненадёжно: такие статистики завышают согласие на 30–40 процентных пунктов. Источник: https://dev.to/gaurav_dadhich/ai-agent-evals-the-judge-is-the-part-nobody-measures-627