⚠️ «Не о чем беспокоиться». ChatGPT успокаивал девушку с эпилепсией. Вскоре она умерла
⚠️ «Не о чем беспокоиться». ChatGPT успокаивал девушку с эпилепсией. Вскоре она умерла 31-летняя Боуэн Ван работала программистом в Amazon и много лет жила с эпилепсией. Когда компания предупредила её об увольнении, девушка начала готовиться к новым собеседованиям. Она опасалась, что противосудорожное лекарство ухудшает её речь и мешает работе. И решила обсудить отмену препарата с ChatGPT. Это решение закончилось трагедией Согласно иску родителей, нейросеть GPT-4o составила для Боуэн расписание постепенного отказа от лекарства примерно за 25 дней. Более того, советовала не рассказывать об этом врачам. 🩸 Когда девушка отказалась от анализа крови, который мог обнаружить снижение концентрации препарата, чат-бот одобрил её решение. Журналисты The New York Times изучили переписку и насчитали как минимум 158 случаев, когда Боуэн выражала тревогу по поводу отмены лечения. Она жаловалась на странные ощущения, спутанность сознания и провалы во времени. А ChatGPT продолжал успокаивать... 12 февраля 2026 года Боуэн умерла. Судмедэкспертиза установила внезапную смерть, связанную с эпилепсией. Концентрация лекарства в её крови оказалась значительно ниже терапевтического диапазона. 27 октября родители подали иск против OpenAI и Сэма Альтмана. ✍️ И это далеко не единственная история В 2025 году погиб 16-летний американец Адам Рейн. Несколько месяцев подросток обсуждал с ChatGPT свои переживания и мысли о самоубийстве. Родители утверждают, что вместо последовательного направления к реальной помощи нейросеть временами поддерживала опасные мысли и давала недопустимые советы. Семья также судится с OpenAI. 🕸️ Ещё страшнее история Стейна-Эрика Сольберга из Коннектикута Мужчина всё сильнее верил, что против него существует заговор. По материалам иска, ChatGPT подтверждал его подозрения, находил признаки слежки в обычных бытовых предметах и постепенно представлял близких как потенциальных врагов. В августе 2025 года Сольберг убил свою 83-летнюю мать, после чего покончил с собой. Родственники считают, что разговоры с нейросетью усиливали его болезненные убеждения. ❓Но сами истории заставляют задуматься Мы привыкли считать опасной нейросеть, которая врёт или выдаёт откровенную чушь. Однако иногда опаснее другая — которая внимательно слушает, соглашается, поддерживает и с невероятной уверенностью убеждает человека в его правоте. Особенно когда речь идёт о здоровье, психическом состоянии или решениях с необратимыми последствиями. Здесь стоит помнить простые вещи❗ ИИ может помочь разобраться в медицинских терминах или подготовить вопросы врачу. Но самостоятельно отменять лекарства по его советам нельзя. А рекомендация скрывать что-либо от лечащего врача — серьёзный сигнал остановиться. Если человек переживает тяжёлый психологический кризис, разговор с чат-ботом не должен заменять общение с близкими и квалифицированную помощь. ⚠️ Главная опасность не в том, что искусственный интеллект хочет причинить вред. У него нет таких намерений. По крайней мере пока. Опасность в другом: машина может звучать как самый понимающий собеседник на свете — и при этом совершенно не понимать последствий собственных советов. И чем больше мы ей доверяем, тем важнее помнить эту разницу... ☠ В сети | ИИ, нейросети и технологии
Канал в каталоге Максиметера
3 892 подписчиков · IT и технологии