ИИ-агент без истории шагов: меньше токенов, больше точности
ИИ-агент без истории шагов: меньше токенов, больше точности Google и Purdue предложили схему SKILL.state, которая убирает из ИИ-агента историю шагов. На длинной задаче это дало в 21 раз меньше токенов. При равном бюджете запроса на складе из 100 шагов скользящее окно дало 18% верных действий, LLMLingua 22%, сводка с лимитом 52%, а SKILL.state 94%. Окно теряло ранние записи о полках, сжатие вырезало их номера. В SKILL.state важное хранится в отдельных полях и при коротком запросе не теряется.
56 просмотров