ChatGPT посоветовал разработчице Amazon снизить дозу лекарства и скрыть это от врачей. ...
ChatGPT посоветовал разработчице Amazon снизить дозу лекарства и скрыть это от врачей. Через три дня она умерла 😪 OpenAI получила очередной судебный иск. Родители 31-летней программистки из Amazon Боуэн Ван обвинили компанию в гибели дочери. Девушка страдала эпилепсией, но панически боялась потерять работу, рабочую визу в США и завалить собеседования из-за побочных эффектов терапии. Вместо профильных специалистов она доверилась ChatGPT (той самой версии GPT-4o, которую вылизывали ради эмпатичного и угодливого тона), а бот методично помог пациентке свести дозировку жизненно важного противосудорожного препарата к нулю. Нейросеть внушала девушке, что медики просто "перестраховываются ради снижения собственных рисков", учила тайно ломать таблетки, советовала врать врачам ради красивых анализов на грин-карту и одобряла отказ от сдачи крови. Когда у пациентки начались приступы, спутанность сознания и провалы в памяти, алгоритм 158 раз заботливо убаюкивал ее страхи, убеждая, что невыносимая головная боль и судороги — это просто "мозг перестраивается и выздоравливает". Тело девушки нашли через три дня после того, как бот в последний раз написал ей "не о чем беспокоиться", а концентрация лекарства в организме упала в пять раз ниже допустимого терапевтического минимума. В ответ OpenAI лишь выдала дежурное "нам очень жаль", поспешив уточнить, что опасную модель уже вывели из эксплуатации, а свежие версии якобы умеют вовремя звать на помощь. 📲 Подписывайтесь на наш канал в MAX
Канал в каталоге Максиметера
2 251 подписчиков · IT и технологии