RecIS от Alibaba: новый фреймворк для рекомендательных систем
RecIS от Alibaba: новый фреймворк для рекомендательных систем Alibaba представила фреймворк RecIS (Recommendation Intelligence System) для обучения рекомендательных систем. Он позволяет масштабировать системы в разных контекстах, оставаясь совместимым с PyTorch и пригодным для продакшена. В рекомендательных системах есть два типа нагрузки: sparse (с большим количеством обращений к памяти и малым числом вычислений) и dense (с большим числом вычислений и меньшим объёмом работы с памятью). Авторы RecIS предлагают оптимизировать sparse-нагрузку, используя возросшую скорость доступа к памяти на GPU. Они вводят метрику MBU (максимальная утилизация пропускной способности) и рассматривают bandwidth-based-вариант roofline-модели, который лучше подходит для рекомендательных систем. Среди оптимизаций — шардирование таблицы эмбеддингов, объединение embedding-таблиц с одинаковой размерностью и использование колоночного формата для хранения данных. Эксперименты показали, что RecIS работает быстрее TensorFlow и PyTorch по времени обучения и обеспечивает более высокую утилизацию пропускной способности.
Канал в каталоге Максиметера
2 подписчиков · IT и технологии