#ИИ #СППВР #цифровизация
#ИИ #СППВР #цифровизация ИИ против ИИ: нейросети в здравоохранении спорят друг с другом — а разбираться приходится врачу Казалось бы, придумали идеальную схему: одна нейросеть предлагает клиническое решение, а вторая проверяет, насколько оно обосновано. Но исследователи из Университета Ёнсе в Южной Корее обнаружили неприятную проблему — разные ИИ могут совершенно по-разному оценивать одно и то же клиническое решение. Учёные взяли 1000 реальных обезличенных случаев госпитализации. Одни модели формировали диагноз и его обоснование, а три другие нейросети независимо проверяли, действительно ли медицинские данные подтверждают этот вывод. И тут начался спор: в зависимости от проверяемой модели ИИ-проверяющие не смогли прийти к единому мнению в 62–74% случаев. Одна нейросеть могла считать рассуждение обоснованным, другая — недостаточно подтверждённым, третья — оценить его иначе. Причём врачу такая «коллегия нейросетей» пока не сильно упрощает жизнь. Исследователи дополнительно дали врачам оценить 50 случаев — и оказалось, что ни одна из нейросетей-проверяющих не совпадала с врачом стабильно лучше остальных. То есть нельзя просто назначить одну модель «главной» и поручить ей проверять ответы других ИИ. Получается так себе ситуация: ИИ внедряют, чтобы снизить нагрузку на врача, но несколько конфликтующих алгоритмов способны создать новую работу — врачу придётся разбираться уже не только в состоянии пациента, но и в том, почему нейросети спорят между собой. Поэтому человеческий контроль пока остаётся обязательным, а автоматическую проверку медицинских решений другими нейросетями нельзя считать надёжной заменой клинической экспертизе. @medicalksu теперь и в MAX