Granite Switch 4.1: чат, решения и речь без лишних GPU
Granite Switch 4.1: чат, решения и речь без лишних GPU Три режима у агента — чат, быстрые флаги и голос — обычно означают три стека и ручную передачу контекста между вызовами. IBM выкатила Granite Switch 4.1: 8B и 30B на одном хостед-эндпоинте переключаются между диалогом, decision-адаптерами и транскрипцией. Память на GPU держится примерно на уровне одной базовой Granite — после ответа в чате тот же кэш подхватывают Guardian для модерации и распознавание речи, без отдельного сервиса под каждый тип запроса. Если агенты уже крутятся на своём GPU или Hugging Face, сравните готовые карточки Switch с тремя отдельными деплоями — или соберите свой набор флагов из Granite Libraries вместо одного generic-классификатора на всё.
6 просмотров