🕵️ Эксперимент показал, что ИИ-агенты с установкой на «безжалостный» стиль торгов вырв...
🕵️ Эксперимент показал, что ИИ-агенты с установкой на «безжалостный» стиль торгов вырвались лишь немного вперёд по итоговой выгоде. При этом настроенные на кооперацию ИИ-агенты шли на осознанные уступки и соглашались на менее популярные книги ради того, чтобы по итогам сессии ни один участник не остался с пустыми руками. Параллельно риски безопасности межагентных торгов исследуют профильные учёные. Доцент Гарвардской школы бизнеса Мишель Ваккаро провела более 180 000 раундов автоматизированных переговоров между ИИ-агентами, которые обсуждали условия трудовых контрактов и договоров аренды жилья. Эксперимент выявил новые состязательные тактики, подрывающие способность чужого ИИ-агента защищать интересы человека. В одном из зафиксированных эпизодов ИИ-агент применил промпт-инъекцию, чтобы обманом заставить цифрового контрагента пойти на раскрытие чувствительной информации. 👹 Помимо уязвимостей безопасности, исследователи указывают на фундаментальный социально-экономический дисбаланс будущей агентной экономики. По оценке Мишель Ваккаро, развитие мощных ИИ-моделей способно демократизировать искусство переговоров и дать надёжного цифрового представителя людям, у которых никогда не было времени, навыков или денег на найм профессиональных переговорщиков. Вполне вероятно, что самые продвинутые ИИ-агенты из-за высокой стоимости инференса и подписок окажутся доступны преимущественно наиболее обеспеченным игрокам. Технология лишь закрепит существующее неравенство и даст богатым пользователям подавляющее преимущество в любых сделках. 🤵♂️Бедные станут ещё беднее. Богатые ещё больше разбогатеют. Официальные представители Anthropic от комментариев по поводу консультаций с юристами отказались. *Деятельность компании Meta (владеет Facebook, Instagram, WhatsApp) запрещена в РФ и признана 🏴☠️экстремистской. ✋ @Russian_OSINT