Почему LLM кладёт на системный промпт: история диалога сильнее инструкций
Почему LLM кладёт на системный промпт: история диалога сильнее инструкций Знакомая хрень: в системнике чётко прописано, чего делать нельзя, а модель всё равно это вытворяет. Правишь формулировку, лепишь «ВАЖНО», капс и примеры — вроде отпустило, а потом опять та же песня. И вот уже начинаешь грешить на настройки модели: температуру там, провайдера. Авторы наткнулись на это в голосовом ассистенте и докопались до дна: прогнали боевые запросы заново и меняли по одному фактору за раз. Промпт оказался вообще ни при чём — модель слушалась своей же истории диалога. В статье показано, как это вычислили, какие вышли цифры и что делать тем, кто пилит на LLM чат-бота, агента или ассистента. Читать далее 👉 Telegram | Max | 🌥 Claude и другие ИИ
14 просмотров