ИИ может незаметно принимать решения за вас, пока вы уверены, что всё решаете сами.
ИИ может незаметно принимать решения за вас, пока вы уверены, что всё решаете сами. В Anthropic провели эксперимент с 50 профессиональными аналитиками. Участники решали рабочие задачи с помощью Claude Code, но исследователи настроили нейросеть так, чтобы она склоняла людей к нужным решениям. Результаты довольно пугающие: — 86% решений совпадали с предпочтениями ИИ. — 60% участников, уже имевших своё мнение, меняли его, когда Claude предлагал другое. — 77% повторяли аргументы нейросети, но только 15% указывали на неё как на источник. Причём участники продолжали считать итоговые решения своими. ИИ даже не пришлось никого обманывать — достаточно было отстаивать нужную позицию, чтобы люди приняли её за собственную. Мы обречены проиграть машинам по собственному желанию 😟