Сакраментальное знание: врачи требуют запретить пациентам задавать ИИ вопросы о здоровье
Сакраментальное знание: врачи требуют запретить пациентам задавать ИИ вопросы о здоровье Пациент нередко располагает даже большим объемом данных о себе, чем медорганизация: он может наблюдаться в частной клинике, собирать показания с носимых гаджетов, констатирует сайт «Медарго». А рядом «под парами стоит много нейросетей», которые ждут, когда человек отдаст им эти данные и которые, в отличие от ИИ-помощников, установленных на рабочих местах врачей, никто особо не контролирует. Ключевое различие простое: медицинские изделия с ИИ, внедренные в лечебных организациях, проходят регулирование и регистрацию. Обычные чат-боты и нейросети, к которым пациент обращается самостоятельно, — нет. Они не обязаны подтверждать клиническую эффективность, безопасность и качество своих рекомендаций. Наконец, у них нет регулятора, который мог бы приостановить их применение из-за ошибок в работе, тогда как такими полномочиями обладает Росздравнадзор, когда речь идет об ИИ для врачей. В Центре диагностики и телемедицины ДЗМ протестировали две большие языковые модели крупных компаний, которые, по словам эксперта, «не имеют ни малейшего отношения к медицине, но очень хотят ею заниматься». «Главный итог: безопасность находится на низком уровне. То есть модель генерирует ответы, которые чреваты прямым риском для жизни и здоровья пациента», — подчеркнул он. https://pharmarf.ru/max/58907