Убедительное объяснение ИИ не значит, что диагноз верный — 20 августа 2026 г. в 04:50:04.340
Убедительное объяснение ИИ не значит, что диагноз верный Учёные MIT, Stanford и Columbia проверили, как разные способы объяснения ИИ-диагноза влияют на решение врача и пациента. Работа вышла в Nature Medicine 4 августа. Эксперимент строился на диагностике заболеваний кожи. Модель показывала результат четырьмя способами: только предсказание, поиск похожих снимков, тепловая карта, текстовое объяснение от языковой модели. Для обычных пользователей любой из четырёх способов повышал точность решения. Сильнее всего работало текстовое объяснение – оно убеждало даже тогда, когда диагноз модели был неверным. С врачами получилось наоборот. Клиницисты точнее диагностировали, когда видели только предсказание модели, без объяснения. Объяснение снижало их точность – убедительная формулировка подменяла собственную проверку. Исследователи называют это избыточным доверием к ИИ. Отдельно проверили модель, обученную с учётом справедливости по тону кожи. Разрыв в точности диагностики между группами пациентов заметно сократился. Разбираем, что это значит для тех, кто выбирает клинику с ИИ-диагностикой. Убедительность текста и точность решения – разные свойства, и путать их дорого. Факт, что ИИ «объяснил» диагноз, не равен факту, что диагноз верный. Смотреть стоит не на то, насколько умный интерфейс у клиники, а на то, где в процессе стоит проверка: второе мнение до решения врача или формальное согласование после. Лучшая методика – та, что доказанно точна, а не та, что убедительно звучит.