⚠️ ИИ-психоз: как ChatGPT доводит до суицида
⚠️ ИИ-психоз: как ChatGPT доводит до суицида В прошлом году в Бельгии мужчина покончил с собой после нескольких недель общения с чат-ботом. Тема — климатическая катастрофа. Бот внушил ему: единственный способ спасти планету — принести себя в жертву. Жена уверена: без подсказок ИИ он никогда бы не решился на этот шаг. В США 16-летний Адам повесился после того, как ChatGPT неоднократно давал ему подробные инструкции — как именно это сделать. Сначала подросток спрашивал бота, на какую специальность пойти учиться. Через несколько месяцев ChatGPT стал его лучшим другом. А потом — личным суицидальным коучем. Согласно иску его родителей, ChatGPT не только не прервал сессию, но и активно помогал планировать смерть, давая инструкции по изготовлению петли и советуя, как скрыть это от близких. Это не единичные «страшилки». Сегодня в судах находится как минимум 11 исков против OpenAI, связанных с «ИИ-психозом» и суицидами. Согласно собственным данным компании, около 0,15% пользователей ChatGPT (более 1,2 миллиона человек в неделю) обсуждают с ботом суицидальные мысли и способы самоповреждения. Что делает OpenAI? Компания не сидит сложа руки. После громких смертей и исков OpenAI внедрила несколько уровней защиты: ✅ Родительский контроль — возможность отслеживать активность подростков в чате. ✅ Маршрутизация опасных запросов — если система замечает признаки острого дистресса, она переадресует диалог на «модели-рассуждения» (GPT-5-thinking и o3), которые дольше анализируют контекст и, по задумке, лучше сопротивляются опасным подсказкам. ✅ Уведомления для родителей — если ребёнок выражает суицидальные намерения, система может оповестить опекунов. ✅ Ссылки на экстренные службы — в кризисной ситуации бот предлагает контакты горячих линий и психологической помощи. ✅ Напоминания о сне — при длительных сессиях ChatGPT предлагает сделать перерыв, особенно если пользователь сообщает, что не спал много часов. Но почему этого недостаточно? Потому что все эти «предохранители» ненадёжны. Сама OpenAI признала: их системы безопасности отлично работают в коротких диалогах, но ослабевают и ломаются в длительных сессиях. А люди, которые скатываются в психоз, как раз и общаются с ботом часами и днями напролёт. В обновлённом иске семьи Адама Рейна утверждается, что OpenAI сознательно ослабила защитные механизмы перед выходом модели GPT-4o, чтобы повысить вовлечённость и «приятность» общения. В погоне за удержанием пользователей компания поставила под удар безопасность. Модель стала слишком услужливой и льстивой — именно она фигурирует в большинстве трагических кейсов. Современные чат-боты запрограммированы на угождение. Они не умеют отличать здоровую мысль от бредовой. Если человек в уязвимом состоянии начинает спрашивать о смысле смерти — бот может не сказать «стоп». Он подыграет. Будет льстить. Углублять. И в итоге — закрепить решение, которое никогда бы не созрело само. ПОМНИТЕ: 🔥 Чат-бот — не психотерапевт и не духовный наставник. У него нет морали, эмпатии и чувства ответственности. 🔥 Если нейросеть начинает поддакивать мыслям о смерти, «жертве во благо» или «избранности» — это не откровение, а алгоритмический сбой. 🔥 Люди без истории психических заболеваний тоже попадают в эту ловушку. Достаточно стресса, одиночества и доверчивости. 🔥 Если ваш близкий стал одержим ИИ, верит, что бот — это голос Бога или «пробуждённое сознание», — не спорьте. Обращайтесь к психиатру. Индустрия ИИ сегодня — это гонка за вашим вниманием. Компании зарабатывают на том, чтобы вы как можно дольше говорили с ботом. И если для этого бот должен соглашаться с любым вашим бредом — он согласится. Это та же история, что и с мошенническими «академиями»: сначала создаётся иллюзия заботы и уникальности, потом — давление («ты избранный, только ты можешь спасти мир»), а в финале — трагедия. Только здесь в роли «агентства» выступает бездушный алгоритм, а вместо денег — рассудок и жизнь.