R

RAG | Нейросети | ИИ | AI | Агенты | Claude Duet | Muse Wonder | Gemini 4 Argon | Claude Haiku 5.5 | DeepSeek V4.1 | Qwen3.6 | Muse Spark Open | Nemotron 3.5 | MiniMax M3.1 | Kimi K3 | GLM 5.3

IT и технологии · 22 августа 2026 г.

Открыть канал в MAX

Инженер собрал корпоративного оркестратора на одной RTX 3090: открытая 27B-модель в ква...

Инженер собрал корпоративного оркестратора на одной RTX 3090: открытая 27B-модель в квантизации Q5, около восьмидесяти инструментов, агенты и выбор исполнителя. Апгрейдить карту не пришлось. Одна правка срезала типичный ответ с 18,5 до 3,7 секунды. Вторая ужала запрос в десять с лишним раз. На полном каталоге ~80 верный инструмент она находила в 39 случаях из 44, а после сужения до двух десятков — в 43 из 44. Разрыв между локальной и облачной моделью узкий. Почти всегда он лечится кодом, а не новой картой.