Самая умная модель в каждом запросе — дорогая привычка
Самая умная модель в каждом запросе — дорогая привычка Во многих ИИ-системах одна флагманская модель отвечает за всё: сортирует обращения, ищет поля в документах и разбирает сложные исключения. Это удобно на старте, но дорого в большом потоке. Компания переплачивает даже за простую классификацию. Anthropic выпустила Claude Haiku 5.5 для быстрых массовых запросов и заметно снизила цену. Рабочая схема проста: дешёвая модель обрабатывает основной поток, а сложные и сомнительные случаи передаёт более сильной. Считать экономию стоит на своём трафике. Длинный контекст у Haiku тарифицируется дороже, поэтому бесконтрольно отправлять в каждый запрос всю базу знаний — плохая идея. Сначала маршрутизация и замер качества, потом обещания экономии. Цены и ограничения Claude Haiku 5.5