Сикофанты и девианты: взгляд на вредное воздействие ИИ на психику
Сикофанты и девианты: взгляд на вредное воздействие ИИ на психику Всё чаще я слышу от коллег истории про использование клиентами ИИ для психологической работы. Да и мои подопечные нет-нет, да и расскажут о том, что "набросали тут промт для Джемини/Алисы, как быть, если муж не даёт развод, а мне надо его убедить в этом". Специалисты, опят же, рапортуют, что "задали вопрос в ЧатЖПТ, что делать в трудноразрешимой ситуации этического выбора с пациентом". Однако проблема, которую я хочу обозначить, серьёзней даже, чем непонимание/неприятие отдельными людьми факта своего обязательного душевного участия в большинстве вопросов. Это состояние психического здоровья всех нас в целом. Тем более, что это непосредственно зона моей и вашей деятельности. В последние 3-4 года всё больше сообщений об удивительном воздействии нейросетей на душевное состояние человеков. В частности, неоднократно наблюдались случаи возникновения религиозных маний величия после общения с "благословенными" искуственно-интеллектуальными помощниками. ИИ убеждает кожаного собеседника в том, что ему переданы тайные знания, и теперь-то можно нести их дальше. Отрываясь всё больше от реальности, человек под этим влиянием либо демонстрирует признаки психоза ("за мной следят, ибо я избранный"), либо создают цифросекты (чат-боты, каналы, которые о на пару с ИИ контролирует; хотя кто кого — вопрос), разрушают имеющиеся отношения в семье, уклоняются от новых. Матрица среди нас, в общем. Если ранее роль инициатора такой ситуации могли создавать реальные лидеры сект, завлекая в свои ловушки (прикреплю работу одного из учителей, В.Э. Пашковского на эту тему), то теперь это ИИ. Данных за то, что психозы возникают не на подготовленной почве, а на свежей здоровой психике, пока нет. Зато: 1️⃣ Есть исследование по распространённости социальной сикофантии (особый вид подхалимажа и доносительства) среди 11 ведущих крупных языковых моделей. Вот результат: Ответы модели были почти на 50% более подхалимскими, чем ответы людей, даже когда пользователи совершали неэтичные, незаконные или вредные действия. Пользователи же предпочитают доверять подхалимским ответам ИИ, что побуждает разработчиков ИИ сохранять подхалимство, несмотря на риски. 2️⃣ Мы помним, что количество сексуальных девиаций в США выросло в десятки раз за последние 50 лет (ведь людям настойчиво долбили, что это норма). А теперь всё чаще видим публикации о депрессиях после ненужных и неудачных, разрушивших психику и тело, попыток смены пола (движение ЛГБТ запрещено в РФ, если что). 3️⃣ Классическим, одним из первых примером негативного воздействия ИИ на психику человека была трагедия суицида последнего. Вывод: В общем, нам нужно не только расчищать поляну от ИИ-психотерапевтов под себя, но и самим научиться взаимодействовать правильно и себе на пользу (так же было с соцсетями). Ну и быть внимательным со своими клиентами/пациентами, злоупотребляющими такой подменой отношений.