Метаанализ: контроль врача за клиническим ИИ не гарантирует безопасность
Метаанализ: контроль врача за клиническим ИИ не гарантирует безопасность В npj Digital Medicine опубликован систематический обзор и метаанализ, ставящий под сомнение распространенное представление о том, что присутствие врача в контуре принятия клинического решения само по себе обеспечивает безопасность при использовании ИИ. Авторы проанализировали 46 отчетов, соответствующих 41 независимому кластеру когорт, включая 40 основных. Вывод исследования: человеческий надзор следует оценивать как способность перехватывать ошибки, а не как автоматическую гарантию безопасности. Обзор охватил системы поддержки клинических решений на основе правил, компьютерную интерпретацию ЭКГ, сверточные нейронные сети, системы классификации изображений, выборочное прогнозирование, черновики отчетов, созданные ИИ, а также разговорные и мультимодальные большие языковые модели. Наиболее тревожные данные касаются реальной клинической практики. В четырех ретроспективных исследованиях компьютерной интерпретации ЭКГ объединенная доля ошибочных автоматических заключений, которые остались неисправленными или нераспознанными, составила 26,6% при 95-процентном доверительном интервале 6,4–65,6% и крайне высокой гетерогенности. Прогностический интервал простирался от 0,3% до 98,0%, а оценка устойчивости с помощью бета-биномиальной модели дала 29,3%. После исключения исследования, в котором критерии исправления могли включать последующую компьютерную интерпретацию, объединенная оценка выросла до 36,3%. Авторы подчеркивают, что эти значения нельзя трактовать как универсальную частоту ошибок: различия отражают реальную вариацию распространенности заболеваний, качества сигнала, квалификации врачей, документирования, рабочего процесса и самих определений исправления.