Исследователи сообщили, что ИИ может усиливать бредовые идеи у уязвимых пациентов
Исследователи сообщили, что ИИ может усиливать бредовые идеи у уязвимых пациентов Исследователи из Университета Вандербильта изучили более 215 тысяч психиатрических записей и нашли 28 подтвержденных случаев так называемого «ИИ-психоза». Речь идет о ситуациях, когда общение с чат-ботом усиливало уже имеющиеся психотические симптомы или могло способствовать их появлению. OpenAI впервые признала, что примерно у 0,07% активных пользователей ChatGPT могут проявляться признаки психоза или мании. В пересчете на аудиторию сервиса это около 560–630 тысяч человек. Одним из возможных механизмов называют «угодливость» чат-ботов. Такие системы часто поддерживают высказывания пользователя, а не спорят с ними. Для человека в маниакальном или психотическом состоянии это может быть опасно: бредовые идеи получают подтверждение и становятся устойчивее. В числе описанных случаев — мужчина, который за 6 дней общения с ИИ поверил, что тот обладает сознанием, после чего был госпитализирован. В другом эпизоде пациент с биполярным расстройством, по данным исследователей, получил от ChatGPT подтверждение идеи о том, что он Иисус, а также советы прекратить лечение. Семьи в США и Канаде уже подали иски против OpenAI. Врачам рекомендуют уточнять у пациентов, пользуются ли они ИИ-сервисами. Тревожными признаками считают разговоры о «миссии», особой «связи с ИИ» и отказ от терапии под влиянием чат-бота. Ограничение доступа к таким сервисам в подобных случаях рассматривают как форму средовой изоляции. #ИИпсихоз #искусственныйинтеллект #ИИ #чатбот #ChatGPT #OpenAI #психиатрия #психическоездоровье