R

RAG | Нейросети | ИИ | AI | Агенты | Gemini 4 Argon | DeepSeek V4.1 | Claude Opus 5.5 | GPT-6 Astra | Kimi K3.1 | Muse Wonder | Nemotron 3.5 | Qwen 4 | DeepInfer | GLM-5.3 | Grok 4.7 | llm-d 1.0

IT и технологии · 4 сентября 2026 г.

Открыть канал в MAX

«Какой квант качать под мою карту» — вечный вопрос. По Qwen3.8-27B теперь есть замер: 6...

«Какой квант качать под мою карту» — вечный вопрос. По Qwen3.8-27B теперь есть замер: 67 часов, пять стеков. На максимальном reasoning все кванты дали 88–90% pass@1, и 4-бит статистически не уступил FP8. Q4_K_M по перплексии почти догнал Q8_0. Выключение reasoning бьёт сильнее любого кванта. NVFP4 без него падает на HumanEval+ до 13/30 против 30/30 у FP8. Q4_K_M — рабочая лошадка под 16 ГБ, KV-кэш ниже q6 не резать. Замер @superalesha.