Спросил у ИИ-агента одно слово — на сервер ушло 305 килобайт. Вопрос из 29 символов, от...
Спросил у ИИ-агента одно слово — на сервер ушло 305 килобайт. Вопрос из 29 символов, ответ из четырёх слов, а по трафику — 113 460 токенов. На Habr автор поставил прокси между агентом и сервером и разобрал запрос. Оказалось: 85% объёма — это описания 137 инструментов, причём 107 из них добавил MCP-сервер, которым в сессии не пользовались вообще. Один такой сервер стоил 52 000 токенов на каждый запрос. Плюс на каждый ход уходил ещё один запрос, о котором никто не просил. Почему это важно для бизнеса. Если вы внедряете автономного ИИ-диспетчера — например, координировать выезды сервисных инженеров — счёт формирует не «интеллект», а объём передаваемых данных. Лишние подключённые инструменты и раздутый контекст тихо множат стоимость эксплуатации. Оптимизация трафика способна снизить её в разы — без потери функциональности. Первоисточник: https://habr.com/ru/articles/1083326/ Разбираем такие задачи на бесплатном ИИ-аудите: находим, что автоматизировать в вашем бизнесе. Без продаж → https://аи-студио.рф/?utm_source=max&utm_medium=social&utm_campaign=ii_v_dele&utm_content=p86-1789790539446