ИД

ИИ для чайников

IT и технологии · 22 июня 2026 г.

Открыть канал в MAX

Новый подход к улучшению LLM для рекомендательных систем

Новый подход к улучшению LLM для рекомендательных систем Вышла статья ORBIT от авторов TIGER и PLUM, которая предлагает решение проблемы балансировки способностей языковой модели (LLM): «разговаривать» и давать качественные рекомендации. При тонкой настройке LLM на рекомендательные задачи модель теряет навыки общения, а без настройки качество рекомендаций страдает. В PLUM использовали двухэтапный подход для настройки Gemini: сначала учили модель понимать каталог, а затем дообучали на генеративный поиск. Однако после второго этапа разговорные способности модели могли ухудшаться. В новой статье предлагается метод Origin-Regulated Merging: усреднение параметров нескольких версий модели с учётом метрики близости к исходному «разговорному» чекпойнту. Слияние моделей происходит регулярно, но с увеличением интервала по мере обучения. Это позволяет сохранить баланс между качеством рекомендаций и способностью к общению. Автор обзора считает, что метод использует проверенные техники глубокого обучения, но отмечает нереалистичность используемого сетапа для оценки рекомендательного качества и то, что усреднённая модель уступает специализированным версиям в своих задачах.