AI-агент берёт задачу и уходит на 52 шага и 36 тысяч токенов. Часто уже в начале видно,... — 20 июля 2026 г. в 03:48:57.385
AI-агент берёт задачу и уходит на 52 шага и 36 тысяч токенов. Часто уже в начале видно, что не решится - но узнаёте вы об этом в конце, когда бюджет сожжён. Свежая работа (Silva, Tu, Monperrus) показывает: сама модель понимает это раньше. Простой классификатор поверх её скрытых состояний угадывает, заработает ли код (AUC до 0,83), ещё до того, как код дописан. И частично предсказывает будущее - направление на ~25 шагов вперёд. Причём сигнал сильнее не в последнем слое, а в середине сети. Нам это знакомо с другой стороны: мы читаем тот же латент в оценке кандидата - совет LoRA-экспертов спорит скрытыми состояниями, а мы их декодируем (латент читается на 89-95%). Вывод один: модель знает больше, чем говорит в ответе, и полезное "мнение" лежит в середине, а не на выходе. Главное - не прочитать сигнал, а рулить по нему: гасить провальную попытку до того, как она сожжёт десятки тысяч токенов. Разбор: https://iconicompany.com/blog/model-knows-if-code-will-work-before-writing