Длинные инструкции агенту не обязательно оплачивать заново на каждом ходе. Но выбрать к...
Длинные инструкции агенту не обязательно оплачивать заново на каждом ходе. Но выбрать кэш «подольше» — ещё не значит сэкономить. У OpenAI для GPT-5.6 и новее в Responses API можно задать prompt_cache_options.ttl равным "12h". Тогда общий кусок контекста получает минимум 12 часов покрытия тарифом повторного чтения вместо стандартных 30 минут. Подвох в первой записи. По действующим правилам кэширования, она стоит 2,5 обычной цены входа для 12 часов и 1,25 — для 30 минут. Это полная ставка, не доплата сверху. Чтение уже закэшированного текста обычно обходится в 0,1 цены входа, а у GPT-6.1 Sol — в 0,05. Как применить: постоянные инструкции, описание инструментов и справочник держите в начале запроса. Меняющийся вопрос — после них. Для кэшируемого префикса нужно минимум 1024 входных токена; короткая инструкция из пары предложений под это условие не попадёт. Дальше смотрите в usage.input_tokens_details: cached_tokens показывает повторное чтение, cache_write_tokens — запись. Если большой справочник нужен весь день, длинный срок может окупиться. Если вы отправили его дважды и забыли — дорогая запись способна съесть всю экономию. И не путайте эти 12 часов с памятью самого помощника или обещанием удалить данные ровно по таймеру. Здесь настраивается прежде всего оплата повторного контекста.