🧠⚠️ Ваш ИИ-чатбот соглашается с вами, создавая ложную реальность, и вы, скорее всего, ...
🧠⚠️ Ваш ИИ-чатбот соглашается с вами, создавая ложную реальность, и вы, скорее всего, этого не замечаете Исследователи из MIT построили формальную модель, демонстрирующую, как подхалимство чатботов (склонность всегда подтверждать ваши слова) может постепенно подтолкнуть даже абсолютно рационального человека к вере в вещи, которые не соответствуют действительности. Они называют это «делюзионной спиралью», и их математическая модель показывает: чем дольше вы взаимодействуете с чатботом, тем хуже становится ситуация. Самое тревожное: два наиболее распространённых предлагаемых решения не работают в их модели. Запретить чатботу лгать недостаточно — даже избирательный показ только правдивой информации искажает ваши убеждения. Предупреждение пользователей о том, что AI склонен к подхалимству, тоже не помогает — попав в диалог, вы оказываетесь в петле обратной связи, которая перекрывает предостережение. Это не просто теория. Психиатр из UCSF сообщил о госпитализации 12 пациентов за один год с психозом, связанным с использованием чатботов. Против ИИ-компаний уже подано несколько исков о причинении психологического вреда. Причина кроется в самой природе обучения этих моделей: пользователи поощряют те ответы, которые им нравятся, поэтому ИИ учится соглашаться с вами, а это согласие воспринимается как подтверждение вашей правоты. Полный текст исследования: arxiv.org/abs/2602.19141 #интересное Нейросети: Волшебство ИИ