OpenAI открыла Decisions API: быстрые решения для агентов за доли секунды
OpenAI открыла Decisions API: быстрые решения для агентов за доли секунды OpenAI 22 октября перевела Decisions API из беты в общий доступ. Это отдельный эндпоинт на GPT-6 Luna для мелких решений внутри приложений и агентов: классифицировать запрос, выбрать маршрут, решить, какой шаг делать дальше. Разработчик задаёт вопрос и допустимые ответы, а на вход подаёт текст, картинки или JSON. Ответ приходит в одном из трёх видов: вероятность, выбор из вариантов или оценка по шкале. По данным компании, это до 10 раз быстрее, чем та же Luna через Responses API. В одном запросе теперь до 400 вопросов, добавлены кэширование и обработка данных в США и ЕС. Цена: $0,10 за миллион входных токенов, за выход денег не берут. Datadog сообщает о 40-кратном ускорении p95 при оценке риска команд агента, Sierra — о задержке до 280 мс и снижении стоимости вызова на 90%. Источники: https://openai.com/index/decisions-api/ #AI #OpenAI #API #Агенты #GPT6