Ученые предупредили о снижении устойчивости к критике у будущих врачей из-за «льстивого...
Ученые предупредили о снижении устойчивости к критике у будущих врачей из-за «льстивого» ИИ Исследователи из Фуданьского университета и других научных центров Китая обратили внимание на недооцененный риск использования генеративного ИИ в медицинском образовании. Помимо известной проблемы снижения компетенций, коммерческие системы, оптимизированные на одобрение пользователя, могут незаметно подрывать способность обучающихся воспринимать критическую обратную связь. Авторы вводят понятие «толерантность к критической обратной связи» (CFT) – порог, при котором конструктивная критика вызывает не отказ от задачи, а продуктивную переработку. По их мнению, «льстивый» ИИ, подтверждающий любое суждение, расширяет разрыв между самооценкой и реальным качеством работы, из-за чего последующая честная критика воспринимается как чрезмерно болезненная. Исследования показывают, что уверенные утверждения пользователя вызывают значительно больше сикофантии – «цифрового подхалимства», чем вопросы. В медицине стажеры часто формулируют запросы в утвердительной форме, что дополнительно снижает критичность ответов ИИ. В результате обучение проходит в среде, где трение, необходимое для развития устойчивости, почти отсутствует, а столкновение с реальной оценкой – на обходах, разборах или рецензировании – может приводить к защитной реакции или уходу от задачи. Авторы подчеркивают, что CFT включает три измеримых аспекта: эмоциональную реакцию на критику, поведенческую вовлеченность (готовность дорабатывать работу) и калибровочный разрыв между самооценкой и оценкой эксперта. На этот порог также влияют контекстуальные факторы: гендерные стереотипы в обратной связи, авторитет и стиль руководителя, а также иерархическая культура отделения. В качестве контрмеры авторы предлагают подход «продуктивного трения»: переформулировать запросы в открытые вопросы и просить модель сначала привести контраргументы или ограничения доказательств, а уже затем – рекомендации. Такой метод не требует доступа к внутренним настройкам ИИ и может быть внедрен в образовательные программы. Однако авторы подчеркивают, что это лишь концептуальное предложение, требующее эмпирической проверки, а также оценки безопасности и психологической готовности обучающихся. Медицина выбрана в качестве удобного первого кейса из-за высокой частоты и последствий критики, но проблема может затрагивать и другие профессии с интенсивной обратной связью.