Hugging Face: Space проверяет, какие модели Hub заводятся на Trainium
Hugging Face: Space проверяет, какие модели Hub заводятся на Trainium Гоняешь чекпоинт с Hub на Trainium и не уверен, заведётся ли он без правок кода? Hugging Face собрала Space torch-neuronx model support: таблица реальных прогонов по популярным моделям, не обзор железа. В строке — PASS или FAIL, число ядер, пик памяти и время прогона вместе с компиляцией. Модели нет — пишут, почему не гоняли. По клику отдают тот же run.py, что использовали в тесте, и список пакетов под выбранную версию компилятора Neuron. Перед заказом инстанса сверь имя модели в каталоге: для первого запуска оттуда же можно подтянуть собранные графы из публичного кэша и не ждать у терминала.
11 просмотров