Perplexity Decider V1.2 на AI Gateway: вероятности вместо парсинга ответа LLM
Perplexity Decider V1.2 на AI Gateway: вероятности вместо парсинга ответа LLM Если роутинг тикетов завязан на «попроси модель и распарсь ответ», на краевых формулировках очередь срывается чаще, чем хочется. Нужны не простыня из чата, а вероятность по чёткому вопросу: да/нет, категория из списка, оценка по рубрике. Vercel вывел Perplexity Decider V1.2 в AI Gateway: несколько вопросов к одному входу в одном запросе, в том числе с картинкой, и сразу вероятности на выходе. Логи решений идут в общий бюджет Gateway — тот же ключ, что у остальных моделей. В каталоге 27B под нюансированные рубрики, Flash 4B под потоковую разметку. Откройте playground и прогоните свой типичный тикет: если разница с парсингом свободного текста видна с первого запроса, роутинг можно переключать без нового стека.