PyTorch 2.15 на Mac: MoE декодируется в разы быстрее
PyTorch 2.15 на Mac: MoE декодируется в разы быстрее Декод локальной модели на Mac , когда каждый новый токен снова прогоняет сеть одной строкой и упирается в линейные слои и выбор из словаря. PyTorch 2.15 для MPS , не косметика: Hugging Face собрала ускорения под transformers, diffusers и ComfyUI, с отдельными ядрами Metal вместо старых обходных путей. На декоде смешанные эксперты относительно 2.14 быстрее примерно в шесть раз , между «ждёшь ответ» и нормальным темпом чата на Apple Silicon. Команда гоняла Hub-модели с мейнтейнерами PyTorch; правки уходят в основную ветку. Попутно починили раздувание памяти на видео и тихую порчу картинок в ComfyUI. Локальный прогон без облака , повод поставить релиз-кандидат 2.15; нужны macOS 15 и Python 3.11.