TorchNeuron: Hugging Face на Trainium как на обычном GPU
TorchNeuron: Hugging Face на Trainium как на обычном GPU Если дообучение у вас уже крутится на видеокарте через привычный тренер, с 20 октября тот же сценарий можно попробовать на Trainium: Hugging Face выкатывает публичную бету TorchNeuron, где чип Neuron ведёт себя как обычное устройство в PyTorch. Старый путь через optimum-neuron требовал отдельных modeling-классов и статических форм — ленивые тензоры, перекомпиляция на каждый разрыв графа. Новый плагин убирает эту прослойку: библиотеки экосистемы советуют вызывать напрямую, без второго тренера под Neuron. Сверьте свой скрипт с примерами из поста, прежде чем месяцами поддерживать два пайплайна под разное железо.
2 просмотров