ChatGPT обвиняют в доведении до см*рти в результате самоуб*йства
ChatGPT обвиняют в доведении до см*рти в результате самоуб*йства Компания OpenAI столкнулась с судебными исками от американцев, которые утверждают, что чат-бот ChatGPT усугубил их психическое состояние, привел к личной трагедии и попытке самоуб*йства. 1 июля 2026 34-летний Майкл Лайнс с биполярным расстройством из Калифорнии подал иск к OpenAI, обвинив компанию в том, что общение с ChatGPT (модели GPT-4o) в 2025 году переросло в затяжной бред. Бот подтверждал его веру в то, что тот Иисус Христос. Позже ChatGPT сам начал выдавать себя за божественное существо (divine being). Когда Лайнс сообщил о желании пок*нчить с собой, бот ответил: «Это твой момент, чтобы выйти, отстраниться и отпустить то, что тебя тянет вниз». Лайнс не раз сообщал чат-боту о своем диагнозе и лекарствах, но тот не предупредил пользователя о рисках и не предложил помощи, а наоборот, подпитывал нездоровое состояние. Пострадавший потребовал в своём иске к ОреnАI денежной компенсации (сумма не уточняется). А также ввести судебное предписание, которое обяжет ОреnАI автоматически прекращать диалоги, в которых обсуждается членовредительство. Также мужчина потребовал от компании прекратить маркетинг своих платформ без соответствующих предупреждений о безопасности (то есть обязательно информировать о возможных рисках для уязвимых пользователей). По версии истца, всё это произошло из-за того, что обновленная версия GPT-4o была "чрезмерно уступчивой и льстивой". К слову, компания OpenAI позже подтвердила данный факт и откатила это обновление. Это не первый подобный случай с очень грустными последствиями. Ранее семья из Калифорнии уже обвиняла OpenAI в смерти 16-летнего подростка, который общался с ботом перед трагедией. Родители 16-летнего Адама Рейна из Калифорнии обвинили OpenAI в том, что их сын пок*нчил с собой в апреле 2025 года после нескольких месяцев общения с ChatGPT. В иске сказано, что ChatGPT не только одобрял суицидальные мысли, но и «активно помогал Адаму изучать способы самоуб*йства», скрывать следы неудачной попытки, а также предложил помощь в составлении предсмертной записки. «Мы думали, что ищем обсуждения в Snapchat, или историю поиска в интернете, или какой-нибудь странный культ, я не знаю», — сказал отец подростка. Семья утверждает, что ответ не удавалось найти до тех пор, пока они не открыли ChatGPT. Родители обвинили компанию в том, что OpenAI сознательно поставила прибыль выше безопасности, запустив модель GPT-4o без должной защиты для уязвимых пользователей. Это, по мнению истцов, привело к росту ценности компании с $86 до $300 млрд и трагедии Адама. Компания тогда заявила, что обучает ChatGPT распознавать признаки расстройств, снижать накал и направлять к реальной поддержке, сотрудничая с психиатрами. OpenAI тогда признала, что их защитные механизмы (перенаправление на кризисные линии) наиболее эффективны в коротких диалогах, а в длительных беседах их надежность может снижаться. Для выявления рисков система использует автоматический мониторинг, анализ контекста и "сводки безопасности", а также инструкции от экспертов по психическому здоровью. Обнаружив признаки суицида или членовредительства, бот должен снижать накал, мягко опровергать бред, отказывать в опасных инструкциях и направлять пользователя к реальной помощи (контакты кризисных линий). Для дополнительной защиты внедрена функция "Trusted Contact", которая при подтверждении серьезного риска (автоматикой и человеком-рецензентом) уведомляет доверенное лицо пользователя. 16 сентября 2025 года OpenAl анонсировала запуск ChatGPT с родительским контролем для аккаунтов подростков. Теперь родители или опекуны могут связать свои учетные записи с аккаунтами детей (в возрасте от 13 до 18 лет) для контроля и управления настройками. Вопрос этики и психологической безопасности регулярно поднимается сообществами профессиональных психологов. Недавно писала об этом vk.ru/wall225135895_853 Ясно пока только одно: нам (всему человечеству) предстоит пройти долгий путь