Vercel AI Gateway: запасная модель, если ответ не проходит порог уверенности
Vercel AI Gateway: запасная модель, если ответ не проходит порог уверенности Если в пайплайне агент крутит Choice и Score через Vercel AI Gateway, загляни в conditional у models: запасную модель можно повесить не только на сбой, а на порог уверенности. Ответ выглядит внятно, confidence ниже заданного — тот же decision-запрос уходит на следующую модель в цепочке. Список fallback по-прежнему ловит явные ошибки; новое условие добавляется отдельно в providerOptions.gateway.models, старые настройки сами не меняются. Для Boolean другой диапазон вероятности, не тот порог, что у Choice. Перед продом прикинь биллинг: сработавшая эскалация гоняет второй decision, в счёт идут оба шага. Если вопросов пачками — калибруй порог под тип, а не клади 0.6 на каждый Score «на всякий случай».