R

RAG | Нейросети | ИИ | AI | Агенты | Gemini 4 Argon | Claude Haiku 5.5 | Mistral Large 4 | Muse Wonder | Muse Spark Open | DeepSeek V4.1 | Nemotron 3.5 | Beam 1.0 | Nano Banana 2.1 | GPT-6 | Jais 3

IT и технологии · 19 августа 2026 г.

Открыть канал в MAX

Ни один рантайм на Mac пока не собрал все CUDA-оптимизации. vllm-metal полнее, но на ги...

Ни один рантайм на Mac пока не собрал все CUDA-оптимизации. vllm-metal полнее, но на гибридных Qwen3.6/3.8 выбираешь между prefix-кэшем и спекулятивным декодингом. mlx-lm при конвертации режет MTP-головы, PR висит с марта. llama.cpp греется и медленнее. Опыт r/LocalLLaMA: максимум у vllm-metal, проще mlx-lm, llama.cpp привычнее, но не быстрее.