FDA собирает мнения о регулировании генеративного ИИ
FDA собирает мнения о регулировании генеративного ИИ 🔖 Недавно агентство опубликовало дискуссионный документ «Вопросы регулирования медицинских изделий на основе генеративного ИИ: дискуссионный документ и запрос на обратную связь» (Considerations for the Regulation of Generative AI-Enabled Medical Devices: Discussion Paper and Request for Feedback). В нем FDA фиксирует, что данные технологии создают «уникальные риски» и в то же время большие перспективы в части оказания медицинской помощи пациентам. Одна из проблем заключается в том, что медизделия на основе генеративного ИИ обладают уникальными характеристиками, которые делают их более сложными для регулирования, чем другие типы программного обеспечения, включая классическое машинное обучение. Например, такие продукты могут принимать неограниченные входные данные, выполнять сразу несколько аналитических задач и выдавать изменчивые выходные данные. Также они несут высокий риск «галлюцинаций», которые кажутся подлинными. Наконец, для них сложнее определить границы предполагаемого использования или отслеживать реальный уровень производительности при эксплуатации. 📍В дискуссионном документе FDA изложил 3 основные концепции: систему оценки рисков для медизделий на основе генеративного ИИ, подход к предрыночной оценке, основанный на компетенциях, а также ряд идей для пострегистрационного мониторинга. 🔹 В рамках работы над тем, как оценивать медизделия с генеративным ИИ до их выхода на рынок, FDA предлагает подход, основанный на компетенциях. ИИ-решения будут подвергнуты сравнительной оценке, а затем протестированы в клинических условиях для оценки того, насколько окончательная, ориентированная на пользователя версия работает с точки зрения безопасности и эффективности. 🔹 Согласно документу, пострегистрационный мониторинг должен стать обязанностью разработчиков медизделий, хотя врачи, медицинские учреждения, плательщики и другие органы власти также могут играть свою роль. Подробнее в нашем материале: https://webiomed.ru/blog/o-regulirovanii-generativnogo-ii/