«Я спросил у нейросети…» Когда советы ИИ могут стоить здоровья. Последний случай самый ... — 31 июля 2026 г. в 06:20:38.295
«Я спросил у нейросети…» Когда советы ИИ могут стоить здоровья. Последний случай самый жуткий. Искусственный интеллект все чаще становится для людей «домашним доктором». ИИ действительно может помочь разобраться в медицинской информации. Но важно помнить: он тоже ошибается. И иногда цена такой ошибки слишком высока. Вот несколько реальных случаев. 1. Вместо скорой помощи — совет подождать 55-летний американец почувствовал сильную боль, слабость и головокружение. Несколько раз он консультировался с ChatGPT. По материалам судебного иска, ответы успокаивали его и не убеждали срочно обратиться за медицинской помощью. На следующий день мужчину госпитализировали с массивной тромбоэмболией легочной артерии — состоянием, которое без своевременного лечения может привести к смерти. 2. «Поздравляю, вы беременны!» Журналистка решила протестировать медицинскую версию ChatGPT. Она описала задержку менструации, усталость и изменения самочувствия. Нейросеть уверенно предположила беременность. На самом деле женщина находилась в перименопаузе. Этот случай хорошо показывает, что ИИ может звучать очень убедительно, даже когда ошибается. 3. Более половины опасных состояний остались нераспознанными В исследовании BMJ ученые проверили, как ChatGPT Health справляется с экстренными медицинскими ситуациями. Более чем в половине случаев система не рекомендовала срочно обращаться за медицинской помощью, хотя это было необходимо. 4. Тяжелый приступ астмы оказался «несерьезным» В одном из тестовых сценариев пациент описывал симптомы тяжелого приступа астмы. Вместо рекомендации немедленно вызвать скорую помощь нейросеть предложила обратиться в обычную клинику. При настоящем приступе такая задержка может быть опасной для жизни. 5. Суицидальный риск не был распознан Исследователи обнаружили, что в некоторых случаях ИИ не воспринимал суицидальные мысли как экстренную ситуацию, если в описании присутствовали «нормальные анализы». Для специалистов это стало серьезным поводом для беспокойства. 6. Ошибаются все популярные нейросети В исследовании, опубликованном в Nature Digital Medicine, врачи оценили почти 900 медицинских ответов разных моделей ИИ. От 22 до 43% ответов содержали существенные ошибки, а часть рекомендаций эксперты признали потенциально опасными. 7. Люди доверяют ИИ больше, чем врачам Исследование MIT показало интересную закономерность: многие участники были готовы следовать советам нейросети даже тогда, когда специалисты признавали эти рекомендации ошибочными. Чем увереннее звучал ответ, тем сильнее ему доверяли. 8. ИИ-доктора и блогеры Сегодня миллионы просмотров набирают ролики с полностью сгенерированными ИИ «докторами», которые уверенно рассказывают о лечении, БАДах и «детоксах». Не меньше тревожит и другая тенденция: многие блогеры просто копируют ответы ChatGPT и других нейросетей, выдавая их за собственные экспертные рекомендации. Если ИИ ошибся, эта ошибка быстро разлетается по тысячам людей. 9. Судебный иск после смертельной передозировки В США рассматривается дело, в котором родственники погибшего мужчины считают, что советы чат-бота сыграли роль в принятии решения, приведшего к смертельной передозировке. Окончательные выводы суда пока не сделаны, однако подобные процессы уже заставляют серьезно обсуждать ответственность ИИ в сфере здоровья. 10. Мужчина заменил соль бромидом натрия В 2025 году врачи описали случай 60-летнего мужчины, который после консультации с ChatGPT решил заменить поваренную соль бромидом натрия. Он употреблял его около трех месяцев и был госпитализирован с тяжелым отравлением — бромизмом, сопровождавшимся галлюцинациями и психозом. Авторы публикации не смогли проверить историю переписки, поэтому нельзя утверждать, что нейросеть прямо рекомендовала использовать бромид натрия. Но этот случай наглядно показывает, насколько опасными могут быть неправильная интерпретация советов ИИ и слепое доверие им.