Baseten Mammoth-1 и Elephant-1: неделя бесплатного роутинга в AI Gateway
Baseten Mammoth-1 и Elephant-1: неделя бесплатного роутинга в AI Gateway До 27 октября Mammoth-1 (27B) и Elephant-1 (9B) от Baseten в Vercel AI Gateway идут без оплаты. Обе — decision-модели: не диалог, а один проход по тексту с несколькими вопросами в одном запросе — вариант, да/нет или числовой скор, плюс вероятности для порога в коде. У обеих окно 16k токенов. Вызов через baseten/mammoth-1 и baseten/elephant-1; строки попадают в те же логи Gateway и в общий бюджет, что и чат с большими моделями. Порог для автодействия или эскалации задаёте вы. Если классификация уже живёт в пайплайне агента, до 27-го прогоните Elephant-1 и замерьте латентность рядом с привычным «спроси у GPT».
7 просмотров