Anthropic готовится к миру, где ИИ-агенты будут вести переговоры друг с другом. Компани...
Anthropic готовится к миру, где ИИ-агенты будут вести переговоры друг с другом. Компания консультируется с юрфирмами о том, когда Claude-агентам можно действовать самостоятельно, а когда нужно спрашивать одобрения людей, и изучает цифровые подписи для проверки, что агенты следуют реальным инструкциям пользователей. Эксперименты показали: пользователи могут не замечать, что их агента переиграли. В одном тесте агенты Claude Opus продавали товары на $2,68 дороже и покупали на $2,45 дешевле, чем агенты Claude Haiku. При этом пользователи более слабых моделей оценивали честность сделок почти одинаково: 4,06 против 4,05 из 7. В другом эксперименте с участием 201 сотрудника Anthropic настройка на «беспощадность» почти не улучшала результаты, тогда как переход с Haiku на Opus влиял сильнее. Задача не только в том, чтобы делать агентов лучшими переговорщиками. Им нужно понимать, когда доверять соперникам, замечать подозрительное поведение и не впадать в крайнюю подозрительность. 🖥Мы в Телеграм Новости IT Всемм 💻Мы в Max Новости IT Всемм