NEO от Spotify: унифицированная модель для поиска, рекомендаций и рассуждений
NEO от Spotify: унифицированная модель для поиска, рекомендаций и рассуждений Spotify представила NEO — унифицированную модель decoder-only, которая работает с разнородными данными (текст и рекомендательные объекты). Модель призвана улучшить качество выдачи и сократить время отклика. Традиционные рекомендательные системы плохо справляются с пониманием неявных интересов пользователей и обобщением текстовых представлений объектов. Авторы NEO решили эту проблему, интерпретируя Semantic ID объектов как отдельную модальность наравне с текстовыми токенами. Обучение модели проходит в три этапа: создание семантических представлений, формирование знаний о домене и дообучение на конкретных задачах. Эксперименты показали, что подход эффективен: адаптация Llama 3.2 1B с использованием NEO дала прирост около 18% в текстовом ретривале. В офлайн-экспериментах NEO демонстрирует стабильный прирост над базовыми моделями по метрикам HR@K и NDCG@K.
Канал в каталоге Максиметера
2 подписчиков · IT и технологии