RAG | Нейросети | ИИ | AI | Агенты | GPT-6.1 Sol | GPT-6 Astra | Gemini 4 Argon | Claude Haiku 5.5 | Muse Wonder | MiniMax M3.1 Flash | DeepSeek V4.1 | DeepInfer | Mercury 3 | Beam 1.0 | Nemotron 3.5
IT и технологии · 20 августа 2026 г.
Обещали ×3 ускорения, вышло −60%. Так на MacBook Air M5 (153 ГБ/с) отработал DFlash — с...
Обещали ×3 ускорения, вышло −60%. Так на MacBook Air M5 (153 ГБ/с) отработал DFlash — спекулятивное декодирование Muse Glimmer 30B (Meta*). Было 7,4 т/с; с DFlash при temp 1.0 стало 3,0, при 0.6 держалось 4,5. На том же железе автор прогнал семь квантизаций, лучший результат у UD-IQ3_M, 14,1 ГБ и ~8,5 т/с. Соседний IQ3_XXS на 13,1 ГБ почему-то медленнее: ниже ~13 ГБ распаковка жрёт больше, чем экономит память. Простой вывод — 32 ГБ под локальную 30B хватает, а «нужно 128» миф. Замеры от 10.08, в день релиза, с тех пор софт наверняка подтянулся. * Meta Platforms Inc. признана экстремистской организацией, её деятельность в РФ запрещена.