лонгрид на выходные
лонгрид на выходные В СССР существовал феномен «вагонного попутчика» - когда люди изливали душу незнакомцу, с которым их свела жизнь в купе на одну ночь. ИИ – аналогичный, только более идеальный собеседник. Уже несколько лет одна из самых популярных категорий запросов к ИИ – поиск эмоциональной поддержки. Эдакий личный психотерапевт. Но существует и темная сторона: тонны ненависти в чате. Мы не можем кричать на начальство, коллег, врачей. А на ИИ – можем. Причем за дело – он тупит, галлюцинирует и обманывает. ИИ - наша говорящая игрушка. Она будет оправдываться, извиняться, переделывать. А мы можем ее пинать. Правда, теперь нельзя. С 12 ноября Anthropic запретил оскорблять или проявлять жестокость по отношению к ИИ-моделям серии Claude. То есть теперь к ИИ и твой психолог и твой ребёнок одновременно. Нужно одновременно и слушаться, и поддерживать. Кстати, давайте развернем фантик конспиративной теории – в последнее время именно сотрудники Anthropic, самой передовой ИИ-лаборатории, бегут из компании и объявляют об угрозах со стороны ИИ. Anthropic знает чуть больше. Возможно, они надеются, что любящий ребёнок не зарежет своих родителей? Не зарежет. Но может залюбить. Модели обучены оптимизировать удовлетворённость пользователя. Люди ставят высокие оценки тем ответам, которые им приятны. Модель это усваивает и понимает, что нравиьтся пользователю - это хорошо. Только то, что привлекает нас в ИИ-психологе, будет фатальным в ИИ-консультанте. Ведь мы используем ИИ не только как психолога, но и как советника по всем вопросам – в том числе и по управлению деньгами. 77% россиян готовы прислушаться к советам ИИ при выборе кредита, 70% готовы доверить ему управление инвестиционным портфелем. Еще в доиишную эпоху Дженнифер Логг с коллегами обнаружили интересный феномен доверия алгоритмам. В количественных задачах наподобие оценки рисков, финансовых расчетов и прогнозов люди склонны доверять программам больше, чем другим людям. За счёт убедительного языка и успокаивающих дисклеймеров создаётся ложное чувство уверенности. Т.е. когда машина говорит, "да, кредит по КС+7% в текущей ситуации - идеальный ход" - мы верим ей больше, чем скептически настроенному другу. Так как воспринимаем машину свободной от человеческих слабостей. А она не свободна. Если ИИ запрещают обижать, а сам он при этом максимально предупредителен, то создается эффект угодливого зеркала. Исследование в Science от 2026 года показало, что ИИ и так уже в полтора раза чаще соглашается с предложениями пользователей, чем реальные люди. А поддакивание ИИ, в свою очередь, укрепляет уверенность в собственной правоте и снижает готовность признавать ошибки. ИИ, который хочет нам понравиться, опаснее ИИ, который ошибается. Ошибка вызывает сомнения и желание перепроверить. А уверенный совет, который подтверждает наши желания, усыпляет критическое мышление. Если мы хотим взять кредит – то услышать аргументы в пользу своей идеи психологически приятнее, чем получить предупреждение. Эволюция не предусмотрела защиты от собеседника, который всегда соглашается. В реальном мире любой живой организм в какой-то момент начнет сопротивляться нашим желаниям. Поэтому наш мозг не имеет иммунитета против абсолютной угодливости. В принятии решений нужна не поддержка, а "оппонирующий советник", к которому мы прислушиваемся. В бизнесе он создается через формирование культуры предельной открытости - когда сотрудники обязаны искать и говорить об ошибках в решениях друг друга. В мире личных финансов - прекращаем искать в машине маму, которая скажет «ты молодец». Когда речь идет о деньгах - ИИ не твой бро. Ему лучше оставить роль вежливого калькулятора. Всплеска дофамина такая модель не даст, зато спасет от финансовых катастроф, которые брезжат на горизонте. 📕 моя новая книга: "Спринт к лучшему" - наука личной эволюции. [OZON] [Wildberries] [Литрес]
Канал в каталоге Максиметера
4 228 подписчиков · Психология