В логах AI Gateway появились сессии с привязкой к провайдеру
В логах AI Gateway появились сессии с привязкой к провайдеру Длинный агент через AI Gateway дешевле, когда каждый следующий ход попадает к тому же провайдеру: у него уже лежит префикс в кэше. Скачешь между бэкендами — снова платишь за весь контекст. Vercel в логах добавил сессии одной строкой: клиент вроде Cursor или Codex, счёт и сколько входа реально пришло из кэша по всем репликам. Внутри строки — цепочка ходов с моделью и таймингом, плюс кто обслуживал сессию сейчас и кто был раньше. Фильтры по клиенту и провайдеру есть, одноходовые по умолчанию спрятаны. Свою группировку задаёте одним и тем же идентификатором на каждый запрос в диалоге. Гоняете агента через Gateway на полчаса — откройте этот экран и сравните кэш на сессиях, которые не прыгают между провайдерами.