Asana удешевила browser-агента в 76 раз — эксперименты Astra в Codex
Asana удешевила browser-агента в 76 раз — эксперименты Astra в Codex Если гоняете browser-агента в проде, откройте биллинг последнего прогона: часто дороже всего не модель, а контекст, который каждый шаг отправляют заново. Инструкции кэшируются, растущая история текста и скриншотов — нет; обрезка на ходу ещё и ломает повторное использование кэша. Asana в Codex на StackAI прогнала сотни прогонов и вынесла три правки: кэш на историю просмотра, больший бюджет на удерживаемый текст, скриншоты режут пачками, а не по одному. На лучшей связке прогон — около полудоллара и четыре минуты против десятков долларов и получаса на старой политике. Сначала сравните, что реально уходит в каждый запрос и что попадает в кэш — до очередной смены модели. В кейсе так цену сжали в 76 раз без смены задачи.