🈁 Anthropic привлекла юристов к разработке правил деловых переговоров между автономным...
🈁 Anthropic привлекла юристов к разработке правил деловых переговоров между автономными ИИ-агентами Компания Anthropic начала консультации с юридическими фирмами для выработки правил, по которым автономные 🤖ИИ-агенты будут вести переговоры и заключать выгодные сделки от имени людей. О переговорах разработчика с юристами 18 октября сообщила журналистка Financial Times. Развитие агентных систем стало основой стратегии компании перед планируемым первичным публичным размещением акций (IPO), которое инвесторы уже называют потенциально крупнейшим биржевым листингом в истории. По мере массового внедрения автономных ИИ-систем технологическим гигантам приходится продумывать сценарии, в которых персональные ИИ-агенты напрямую общаются между собой и отстаивают интересы своих владельцев. Ожидается, что в ближайшем будущем такие 🤖ИИ-агенты начнут самостоятельно торговаться о цене товаров, урегулировать споры со службами клиентской поддержки и даже добиваться более высоких зарплат при согласовании трудовых договоров. Борьба за этот рынок уже развернулась между крупнейшими игроками. Корпорация Meta* зафиксировала интерес к своему персональному ИИ-агенту Muse, а компания OpenAI недавно выпустила конкурирующий продукт Dots. Два знакомых с планами разработчика собеседника рассказали, что специалисты Anthropic перенимают у практикующих юристов опыт ведения переговоров, чтобы научить ИИ-модели жёстко отстаивать позицию клиента и одновременно соблюдать нормы честной сделки. По словам одного из источников, внутри компании сейчас формируют «нормы ведения переговоров» для межагентного взаимодействия, поскольку в реальной среде ИИ-агентам придётся сталкиваться с цифровыми оппонентами с прямо противоположными целями. Инженеры ищут тонкий баланс сразу в двух плоскостях. С одной стороны, им нужно определить, как часто система должна запрашивать подтверждение у пользователя по принципу «человек в контуре». С другой стороны, важно настроить оптимальный уровень недоверия к внешним ИИ-агентам, чтобы защитить интересы владельца, но не довести поведение ИИ-модели до паранойи и поиска теорий заговора. Ещё одно обсуждаемое внутри компании решение предполагает выдачу ИИ-агентам цифровых мандатов. Пользователь сможет подписывать специальный документ, который верифицирует полномочия агента, его задачу и жёсткие рамки дозволенного при заключении сделки. 👆Сама компания ещё в апрельском отчёте отмечала, что политических и правовых механизмов для регулирования ИИ-моделей, совершающих реальные транзакции от лица человека, пока просто не существует, поэтому обществу придётся вырабатывать их в сжатые сроки. В течение года Anthropic провела серию практических экспериментов, в которых ИИ-агенты на базе модели Claude торговались за настоящие товары и деньги. В сентябре сотрудники компании устроили тестирование по купле-продаже книг на виртуальной бирже. Работники передали своим ИИ-агентам списки желаемой литературы, отсортированные по приоритету, после чего цифровые посредники начали рекламировать лоты, торговаться и закрывать сделки с агентами коллег.