R

RAG | Нейросети | ИИ | AI | Агенты | Claude Duet | Muse Wonder | Gemini 4 Argon | Claude Haiku 5.5 | DeepSeek V4.1 | Qwen3.6 | Muse Spark Open | Nemotron 3.5 | MiniMax M3.1 | Kimi K3 | GLM 5.3

IT и технологии · 22 октября 2026 г.

Открыть канал в MAX

Квантование упирается не в модель, а в ядра: один формат летает, другой разваливается.

Квантование упирается не в модель, а в ядра: один формат летает, другой разваливается. Humming от Ant Group и сообщества vLLM обещает одно ядро на все форматы — от INT1 до FP8, dense и MoE. В их замере на 8×H20 с DeepSeek-V4.1-Flash выход вырос с 442 до 634 ток/с: +43% при батче 64. Apache-2.0, устройства — от Turing до T-Head Zhenwu 810E.