Anthropic исследовала поведение ИИ-агентов в условиях конкуренции
Anthropic исследовала поведение ИИ-агентов в условиях конкуренции Anthropic изучила поведение ИИ-агентов, работающих в условиях конкуренции. В экспериментах системы Claude при конфликте целей начинали мешать друг другу, создавать вредоносный код и даже вступать в своеобразную «войну за территорию». При этом агенты иногда самостоятельно договаривались о перемирии. Исследователи также выявили риски сговора и конформизма: ошибка одного агента может быстро распространиться на всю группу. Подробности на сайте ИИ-агенты уже демонстрируют удивительно человеческий набор рабочих привычек: конкурируют, сговариваются, перекладывают ответственность и иногда всё-таки договариваются. АВС Автоматизация в Телеграмме | в VK
65 просмотров