Meta анонсировала MTIA 300 — первый ускоритель для обучения рекомендательных моделей со...
Meta анонсировала MTIA 300 — первый ускоритель для обучения рекомендательных моделей со встроенными сетевыми интерфейсами. В отличие от GPU, где коммуникация конкурирует за ресурсы, здесь 16 выделенных процессоров обрабатывают сетевые запросы независимо. 📊 Это обеспечивает изоляцию вычислений и снижает задержки. Библиотека HCCL компилирует операции заранее, исключая участие CPU во время выполнения. На модели из 150 млрд параметров чип показал скорость коммуникации в 3,9 раза выше аналогичных GPU-кластеров. 🔹 Первый Нейронный
1 просмотров