Саппорт-агент на LLM, который не забудет сгонять за заказом
Саппорт-агент на LLM, который не забудет сгонять за заказом Один товарищ собрал агента поддержки на LLM и выкатил разбор. Первая версия — обычный агентский цикл: пусть, мол, модель сама соображает, когда дёргать тул. Итог предсказуемый: в каждом третьем ходу она за заказом не шла, а тупо выдумывала ему статус. В харнессе всё иначе — модель тут вообще ничего не решает. За данными топает код, а модель зовут всего дважды: разобраться, что за вопрос, и накатать ответ. Агентский цикл поднимается за вечер и теряет тул в 1 ходу из 24. Конвейер для прода не теряет ни разу, зато роутер и сценарии под него человек пишет руками. Тысяча диалогов на Qwen — полбакса, на Opus — тридцатка баксов. Читать далее 👉 Frontender's notes
4 просмотров