GenRec: новый подход к генеративным рекомендациям
GenRec: новый подход к генеративным рекомендациям Команда JD App представила работу о системе GenRec, которая предлагает улучшенный подход к генеративным рекомендациям. Вместо традиционного Next Item Prediction авторы предлагают использовать Page-Wise Next Token Prediction: модель анализирует всю страницу и все действия пользователя на ней, сортируя их по важности (покупки, клики, показы). Это позволяет уменьшить проблему несоответствия между действиями пользователя и их логированием. Для сокращения вычислительных затрат используется метод Token Merger: три семантических токена конкатенируются и пропускаются через линейную проекцию, что позволяет уменьшить длину последовательности в два раза. Семантики получают через мультимодальный Qwen2.5-VL с добавлением коллаборативного сигнала и применением residual quantization с K-means. Для улучшения качества рекомендаций применяется модификация GRPO с preference model, которая оценивает айтемы из роллаутов и выдаёт реворд. Чтобы избежать высоких скоров для нерелевантных айтемов, используется gating-механизм. В онлайн-тестировании система показала прирост: около +9,5% по кликам и +8,7% по транзакциям.
Канал в каталоге Максиметера
2 подписчиков · IT и технологии