Калифорния запретила ИИ принимать медицинские решения без участия врача
Калифорния запретила ИИ принимать медицинские решения без участия врача Губернатор Калифорнии (США) Гэвин Ньюсом подписал закон, запрещающий с 1 января 2027 года больницам и врачебным кабинетам использовать искусственный интеллект для самостоятельного выполнения задач, требующих профессиональной лицензии, включая назначение лекарств и заказ анализов. Медицинские организации обязаны обеспечивать условия, при которых лицензированные специалисты сохраняют независимость суждений при использовании ИИ-инструментов. При этом клиницисты могут применять такие инструменты в своей работе в качестве дополнительного источника информации. Закон внесен членом Ассамблеи Мией Бонтой при поддержке Ассоциации медсестер Калифорнии. Средний медперсонал выражал обеспокоенность тем, что администрации больниц заменяют их функции генеративным ИИ и алгоритмами. Национальный союз работников здравоохранения подал жалобу на Kaiser Permanente, утверждая, что алгоритм оценки пациентов с психиатрическими запросами выдавал рекомендации без надзора лицензированных клиницистов. Kaiser заявил, что решения о лечении принимают врачи, а предиктивный алгоритм для выявления риска ухудшения состояния помог снизить смертность на 16%. Ассоциация больниц Калифорнии и Калифорнийская медицинская ассоциация заняли нейтральную позицию. Врачи все чаще используют генеративные ИИ-инструменты для поддержки клинических решений, например Open Evidence для обобщения исследований и Abridge для записи приема. Юристы ожидают роста числа исков о врачебных ошибках, если пациенты решат, что врач чрезмерно полагался на рекомендации ИИ. Отдельный законопроект AB 2575 о трудовых гарантиях для медиков, следующих или не следующих рекомендациям алгоритмов, был отклонен Ньюсомом по техническим основаниям.