Перейти к содержимому
Максиметер

Anthropic ускорила Claude Code на 35% без изменения самой модели

Anthropic ускорила Claude Code на 35% без изменения самой модели Anthropic представила Message Threads, новый механизм работы с историей диалога в Claude API. Он ускоряет ИИ-агентов, которые выполняют длинные задачи с сотнями обращений к модели. Раньше при каждом новом запросе агент повторно отправлял всю историю переписки, включая предыдущие команды, ответы и результаты работы инструментов. В больших сессиях объём истории может достигать миллиона токенов. Теперь полная история отправляется только один раз. Сервер временно сохраняет её в памяти, а при следующих запросах агент передаёт только новые сообщения и идентификатор предыдущего ответа. По данным Anthropic, в Claude Code механизм уже включён по умолчанию у большинства пользователей. На запросах с контекстом от 500 тысяч до 1 миллиона токенов медианное время до появления первого токена сократилось примерно на 35%. При этом Claude продолжает обрабатывать всю историю разговора. Количество оплачиваемых токенов не уменьшается, ускорение достигается за счёт сокращения передачи и повторной подготовки данных. История хранится в зашифрованной оперативной памяти сервера. Через 5 минут неактивности сессия истекает, после чего агент может заново отправить полный контекст. Message Threads доступен в публичной бете через Claude API, AWS, Google Cloud и Microsoft Foundry. Подробнее dailyprompts.ru

80 просмотров

Канал в каталоге Максиметера

370 подписчиков · IT и технологии

Другие публикации канала

Популярные публикации канала

Ещё по теме «IT и технологии»

Читать дальше

Два раза в неделю свежие посты этого канала — на почту и в личную ленту. Без повторного поиска канала вручную.