GazeReward: как улучшить работу LLM с помощью отслеживания взгляда
GazeReward: как улучшить работу LLM с помощью отслеживания взгляда Существует фреймворк GazeReward, который помогает повысить точность работы больших языковых моделей (LLM). Он интегрирует данные об отслеживании взгляда (eye-tracking, ET) в модель вознаграждения (RM). Сейчас LLM, такие как GPT, Llama, Claude, Gemini, хорошо решают различные задачи, но их ответы не всегда соответствуют ожиданиям пользователей. Метод Reinforcement Learning with Human Feedback (RLHF) тоже не всегда позволяет точно моделировать предпочтения людей. Авторы GazeReward предлагают использовать данные о движении и фиксации глаз как дополнительный сигнал о том, как пользователи воспринимают информацию. Есть два способа интеграции ET в RM: GazeConcat (конкатенировать ET с текстовыми эмбеддингами) и GazeAdd (добавить ET к текстовым эмбеддингам). Эксперименты показали, что GazeReward повышает точность прогнозов о предпочтениях людей более чем на 10%. Это подтверждает потенциал мультимодальных сигналов для обработки естественного языка (NLP).
Канал в каталоге Максиметера
2 подписчиков · IT и технологии