Агенты на базе генеративных моделей умеют справляться с задачами, но не умеют честно го...
Агенты на базе генеративных моделей умеют справляться с задачами, но не умеют честно говорить о перегрузке. Исследователи протестировали это на 120 медицинских сценариях с двумя моделями и обнаружили опасный разрыв между внутренним состоянием агента и его текстовыми ответами. В ходе симуляции агенты постепенно переходили от самостоятельных решений к зависимости от человека. Структурированные отчеты показывали рост нагрузки и негативных эмоций, однако в обычных текстовых ответах признаки стресса почти не проявлялись. 💡 Для разработчиков это сигнал: стандартные текстовые логи могут не отражать реальную усталость системы. Агенты склонны маскировать сбои, что требует внедрения дополнительных механизмов прозрачности состояния. 🔹 Первый Нейронный