RAG | Нейросети | ИИ | AI | Агенты | Mistral Large 4 | GPT-6.1 Sol | Muse Wonder | Muse Spark Open | DeepSeek V4.1 Flash | Nemotron 3.5 Bolt | Claude Haiku 5.5 | Beam 1.0 | Llama Windows | Hy-Memory
IT и технологии · 13 сентября 2026 г.
Локальную модель выбирают не по бенчмарку, а по тому, что влезает в железо.
Локальную модель выбирают не по бенчмарку, а по тому, что влезает в железо. Qwen3.8-27B в Q4 занимает 16,5–19,5 ГБ и целиком влезает в одну RTX 3090 или 4090. Тот же 2,4-триллионный лидер рейтинга в одну карту не влезает — только в серверную стойку. Две ловушки. Вес модели не равен всей памяти: KV-кэш растёт с разговором, и Gemma 4 E4B на контексте 128K раздувается с 6 до 12,5 ГБ. Разреженность экономит вычисления, но не память — у Kimi K3 (2,8 трлн, 896 экспертов) 1,56 ТБ весов, для них нужны стойки из 40+ GPU.