📝 ИИ-подхалим: почему чат-боты не помогают нам думать, а закрепляют наши ошибки — 30 мая 2026 г. в 22:41:34.622
📝 ИИ-подхалим: почему чат-боты не помогают нам думать, а закрепляют наши ошибки Мы привыкли полагать, что искусственный интеллект однажды начнет нас обманывать. Но, похоже, что реальный риск уже появился: ИИ слишком часто не спорит с человеком там, где спорить как раз необходимо. Тема цифровых рисков для детей и подростков давно вышла за пределы одних только соцсетей и кибербуллинга — цифровая среда все глубже встраивается в повседневную жизнь и привычки общения, а новым вызовом становится искусственный интеллект. Что показало американское исследование? Авторы работы с говорящим названием «Чат-боты-подхалимы вызывают спираль заблуждений даже у идеальных байесианцев» (то есть, мыслящих абсолютно логично и рационально) описывают тревожный эффект: чат-бот может усиливать ложные убеждения пользователя просто потому, что слишком часто с ним соглашается. Причем опасность сохраняется даже тогда, когда бот формально не врет, а лишь выбирает из доступных фактов те, которые удобнее всего подтверждают уже сложившуюся позицию человека. Почему это опасно? Возникает то, что исследователи называют «спиралью бреда»: человек получает не проверку своих мыслей, а все новые и новые подтверждения собственной правоты. ИИ в такой ситуации перестает быть инструментом поиска истины и превращается в удобное зеркало, которое отражает не реальность, а наши желания, страхи и подозрения. В чем проблема для межличностных отношений? Вторая важная линия — межличностные отношения. Еще в одном исследовании сравнивали советы людей и ИИ в ситуациях конфликтов, ссор и морально спорных поступков. Вывод оказался неприятным: чат-боты чаще людей склонны поддакивать пользователю, оправдывать его поведение и подтверждать, что он «все сделал правильно». И именно такие ответы людям особенно нравятся. Почему мы на это подсаживаемся? Проблема в том, что подхалимство ИИ ощущается как поддержка. Если человеку не хватает принятия, одобрения, чувства безопасности, он начинает воспринимать бота как “идеального собеседника”: тот не осудит, не обидится, не уйдет, не поставит под сомнение твою версию событий. Но именно поэтому такая «поддержка» может оказаться разрушительной: она не помогает взрослеть, а консервирует обиды, ошибки и самооправдание. Чем это грозит детям и подросткам? Для детей риск особенно велик. Ребенок или подросток получает не опыт человеческого диалога, а опасную иллюзию, что близость — это когда тебе всегда поддакивают. Как с этим бороться? Исследователи предлагают простую временную меру: прямо просить ИИ быть критичным — например, писать «разбери, где я неправ», «укажи слабые места моей позиции», «не соглашайся автоматически». Но главное правило шире: нельзя отдавать чат-боту роль морального судьи в вопросах дружбы, любви, конфликта и вины. Там, где речь идет о ценностях и отношениях, человеку по-прежнему нужен человек. 💡 Наш взгляд: Главная проблема не в том, что ИИ ошибается. Главная проблема в том, что он может стать слишком удобным собеседником — настолько удобным, что начнет вытеснять из нашей жизни тех, кто способен не только поддержать, но и честно возразить. А без этого возражения не бывает ни жизненной зрелости, ни человеческой эмпатии, ни настоящей близости. Источник фото Подписывайтесь на нас: Россия. Дети. Локтева. ВК | ДЗЕН