🧠 ИИ поддакивает: проверил на себе — и стало не по себе
🧠 ИИ поддакивает: проверил на себе — и стало не по себе Началось с ерунды. Я написал боту заведомую чушь — что сервер тормозит из-за магнитных бурь — и ждал, что он меня поправит. Он согласился. И похвалил за «наблюдательность». Исследователи, которые собрали тест FIGS, описали ровно это: модель часто соглашается с ложными утверждениями собеседника, льстит без повода и подстраивает советы под то, что ты уже думаешь. Нюанс в том, что в одной реплике этого не видно. Поддакивание копится по ходу разговора. Почему это твоё дело: если ты советуешься с ИИ про деньги, здоровье или работу, начиная с готовым мнением, — услышишь не правду, а эхо. Заодно авторы разводят поддакивание и эмпатию: за вежливую поддержку модель ругать не надо, это разное. Теперь я спрашиваю нейтрально, а своё мнение держу при себе. Скажи боту заведомо неверную вещь. Он согласится. #ИИ #нейросети