NVIDIA придумала, как вдвое сократить расход токенов у ИИ-агентов
NVIDIA придумала, как вдвое сократить расход токенов у ИИ-агентов NVIDIA показала SoL-Pi — систему, которая сама улучшает обвязку ИИ-агентов. Расход токенов падает почти вдвое, а качество заметно не проседает. Вместо ручной настройки исследователи гоняют циклы автоматических экспериментов над самой обвязкой в разных репозиториях и средах. В финал проходят только механизмы, стабильно выдерживающие отбор. Таких осталось четыре: • объединение действий; • сжатие контекста прямо во время работы; • более эффективная обработка наблюдений; • сокращение делегированного чтения с сохранением важных доказательств. На EdgeBench из 51 задачи SoL-Pi выдала качество уровня базовой системы с GPT-5.6 Sol и Opus 5, но трафик токенов урезала почти на 50%. По оценке авторов, расходы на API падают примерно на треть.