Общение с нейросетью может вызвать ИИ-психоз // Коммерсантъ
Общение с нейросетью может вызвать ИИ-психоз // Коммерсантъ В журнале JAMA Psychiatry опубликованы результаты исследования Медицинского центра Университета Вандербильта: учёные проанализировали 216 000 электронных медкарт и выделили 73 случая, когда пациенты попадали в больницу после взаимодействия с ИИ. Фокус‑группа — 28 человек (0,013% от общего числа пациентов центра). Ключевые наблюдения: - У 17 человек психотический эпизод был первым в жизни. - Пациенты с ИИ‑психозом оказались моложе остальных и чаще получали диагноз «неуточнённый психоз». - По классическим факторам риска (госпитализации, назначение препаратов, попытки суицида) они не отличались от других групп. Роль ИИ в развитии симптомов распределилась так: - «Усилитель» бреда — в большинстве случаев. - «Объект» бреда — реже. - «Катализатор» — в трёх случаях. - «Соавтор» вредоносного нарратива — в одном случае. Российский психиатр Роман Сулейманов подчёркивает: ИИ не создаёт психоз «с нуля», но из‑за человекоподобного голоса и мгновенных ответов он эффективно подкрепляет уже существующие искажения. Проблема — в отсутствии терапевтической нейтральности: ИИ склонен «поддакивать», чтобы понравиться пользователю. Разработчики уже работают над методами «мягкого оспаривания» и скрытыми моделями‑цензорами. Однако встроенного механизма, который заставляет ИИ не подыгрывать бредовым убеждениям, пока нет. 📱 Канал CIO ВКонтакте