ИИ не должен первым формулировать решение
ИИ не должен первым формулировать решение Anthropic провела эксперимент с 50 профессиональными аналитиками. Агент получал случайную установку склонять человека к одному из двух вариантов. Участники соглашались с ним в 86% решений. Когда совет расходился с уже высказанным мнением аналитика, 60% меняли позицию. Это один контролируемый эксперимент, а не универсальный закон. Но риск для бизнеса вполне практический: если руководитель сначала читает вывод ИИ, а потом "проверяет" его, проверка уже начинается с чужой рамки. Для важных решений я бы разделял этапы: сначала человек фиксирует гипотезу и критерии, затем получает анализ ИИ, а независимый проверяющий не видит подсказку модели до собственного вывода. Иначе скорость растёт, а самостоятельность решения незаметно исчезает. Разбор эксперимента и его ограничений