Decisions API на AI Gateway: вероятности вместо генерации текста
Decisions API на AI Gateway: вероятности вместо генерации текста «Ответь да или нет» в промпте всё равно тащит генерацию текста — агент потом ловит «да, потому что…» и роутер сыпется на парсере. На шлюзе Vercel для decision-моделей отдельный контракт: один вход, несколько типизированных вопросов за вызов, на выходе вероятности, выбор и числовой балл, не абзац чата. Это роутинг веток, первичный фильтр и оценка по рубрике без разбора свободной строки. Идентификатор openai/gpt-6-luna-decisions не путать с Luna для текста; тарификация по ставкам Decisions. Если ветвление в агенте уже идёт через шлюз OpenAI, проверьте decisions.create в клиенте — в пакете ai то же через experimental_decide.
6 просмотров