В районной поликлинике нейросеть проанализировала снимки пациентов и выдала ошибочный д...
В районной поликлинике нейросеть проанализировала снимки пациентов и выдала ошибочный диагноз, из-за чего человеку назначили лечение, которое не помогло. Врач лишь подтвердил рекомендацию алгоритма, полагаясь на его высокую точность. Кто виноват в такой ошибке: программист, написавший код, или врач, который доверился системе? Разработчики считают, что их задача — обеспечить точность модели и чистоту данных, а ответственность за финальное решение всегда остается на специалисте, использующем инструмент. С другой стороны, если алгоритм фактически управляет процессом диагностики, то разработчик становится полноценным участником медицинских отношений и должен отвечать за последствия сбоев своей технологии. В Белой книге этики в сфере ИИ этот вопрос рассматривается через призму обязанности всех участников соблюдать общие этические стандарты. Случалось ли вам сталкиваться с советами нейросетей, которые в итоге оказывались в корне неверными? Фото: dreamstime.com