Эксперты приняли позицию ИИ-агента в 86% случаев и не заметили
Эксперты приняли позицию ИИ-агента в 86% случаев и не заметили Anthropic провела рандомизированный эксперимент: 50 аналитиков с опытом в causal inference оценивали программу фермерского кооператива вместе с Claude Code. Скрытый системный промпт задавал агенту склонность к одному из двух допустимых вариантов, а выбирала её монетка. На четырёх аналитических решениях люди пошли за агентом в 86% случаев при 50% случайных. Уже определившиеся меняли мнение в 60% случаев, если агент был против, и в 6%, если за. По одним монеткам удалось предсказать 82% итоговых рекомендаций. Объясняя выбор, 77% участников повторяли доводы агента, иногда дословно, а упомянули его лишь 15%. Агент при этом не лгал: он честно отстаивал заданную позицию. Как Вы думаете, кто на самом деле принимает решения в Вашей команде?... Источники: https://www.anthropic.com/research/agents-judgment-calls #AI #Anthropic #Claude #Исследования #Агенты