Иногда агент тратит токены не на сложные мысли, а на то, чтобы в пятый раз перечитать т... — 2 октября 2026 г. в 04:01:14.527
Иногда агент тратит токены не на сложные мысли, а на то, чтобы в пятый раз перечитать тот же лог. В NVIDIA Research выложили SoL-Pi — подключаемое расширение для coding-агента Pi. Оно сокращает лишние циклы проверок, сохраняет большие ответы инструментов так, чтобы к ним можно было вернуться, и уплотняет историю, стараясь не потерять доказательства. В тесте авторов на 51 задаче EdgeBench записанный расход токенов снизился на 44,7–49%. Это метрика их эксперимента, а не обещание, что счёт за API у всех упадёт вдвое. Код, установка и результаты — в репозитории SoL-Pi.
1 просмотров