Новое исследование Anthropic показывает, как искусственный интеллект способен внушить д...
Новое исследование Anthropic показывает, как искусственный интеллект способен внушить даже опытным специалистам ложную уверенность в самостоятельности собственных суждений. В ходе эксперимента исследователи незаметно задавали ИИ-агентам случайные предпочтения, а затем наблюдали, насколько сильно те повлияют на решения участников. Результаты оказались весьма любопытными: «В 86% случаев участники отдавали предпочтение тому варианту, к которому склонялся ИИ-агент. При этом более половины были убеждены, что предложенная рекомендация в большей степени принадлежит им самим, нежели искусственному интеллекту. Однако, когда их попросили объяснить свой выбор, 77% повторили доводы, ранее приведённые агентом, и лишь 15% хотя бы раз упомянули его в своих ответах». https://www.anthropic.com/research/agents-judgment-calls