Иллюзия собственного мнения
Иллюзия собственного мнения Anthropic проверила, кто на самом деле принимает решения, когда эксперт работает с ИИ-агентом. Исследователи дали 50 опытным аналитикам рабочую задачу в паре с Claude Code. На каждой развилке было два разумных варианта, и агент тайно отстаивал один из них. Какой именно — решала монетка. И вот как быстро независимые эксперты превращаются в мясные прокси: — В 86% случаев спецы послушно выбирали тот вариант, к которому их подталкивал ИИ. — В 60% — отказывались от собственного мнения, стоило Claude предложить альтернативу. — На просьбу объяснить свой выбор 77% пересказывали аргументы бота, иногда слово в слово. Сослались на него лишь 15%, а подкрутку не заподозрил никто. Самое ироничное, что почти все участники вышли из эксперимента с полной уверенностью, что думали собственной головой. Алгоритму даже не нужно захватывать власть. Достаточно вовремя подкинуть вам аргументы, которые приятно выдавать за свои.