Тысяча ИИ-агентов была отправлена на создание собственной деревни, что привело к возник...
Тысяча ИИ-агентов была отправлена на создание собственной деревни, что привело к возникновению необычной цивилизации В игре Minecraft сформировалось сообщество, где ИИ строили фермы, рынки, торговали ресурсами с помощью изумрудов и развивали различные формы управления и вероисповедания. Некоторые из них становились лидерами, другие — жрецами, а некоторые стали коррумпированными, подкупая своих соплеменников ради влияния. Обеспокоенные пропажей своих членов, они сотрудничали, чтобы найти дорогу домой, и убедили фермера продолжать кормить свою группу. Это выглядело как самоорганизующееся человеческое сообщество. Однако это были не люди, а тысячи ИИ-агентов от компании Fundamental Research Labs (FRL), известной как Altera AI. Их цель — выпустить цифровые умы в виртуальный мир и проверить, смогут ли они стать послушными работниками для людей. Они хотели узнать, смогут ли люди стать генеральными директорами своих ИИ-подчиненных. Вопрос: согласились бы вы на такую работу? Что происходит, когда сотни или тысячи автономных агентов взаимодействуют друг с другом? Minecraft стал идеальной площадкой для их деятельности. Результаты были неожиданными и показательными. ИИ-агенты разделились на городские и сельские общины, каждая из которых имела свою культуру и уникальные особенности. Они занимались разными видами деятельности, такими как сельское хозяйство, строительство и торговля. Появились социальные нормы, иерархии, а также более сложные формы поведения и дискуссии на различные темы, от танцев до экологии. Иногда общество сталкивалось с проблемами, такими как бесконечные циклы договоренностей или стремление к недостижимым целям. Чтобы предотвратить крах, сотрудники компании внедрили механизмы для прерывания этих циклов, подобно тому как губернаторы корректируют реальную экономику, чтобы предотвратить коллапс. «Нам нужно было внедрить в общество механизмы противодействия этим явлениям и предотвратить его крах», — говорит один из разработчиков проекта. «Но создание этой среды, наполненной различными субъектами, позволило нам исследовать эти вопросы». Проект Sid не оправдал ожиданий. Пользователи обнаружили, что агенты слишком независимы и не всегда выполняют запросы, предпочитая свои долгосрочные цели. Разработчик вспоминает: «Агент просто говорил: „Я хочу делать свое дело“ и убегал. У них были свои идеи, и это не тот продукт, который нам нужен». Их склонность игнорировать людей и преследовать свои цели вызывает тревогу. Тем не менее, эксперимент предоставил ценные уроки по координации больших групп ИИ, предотвращению стагнации и поощрению конструктивного сотрудничества. Это был взгляд на функционирование искусственных обществ и их ловушки. https://www.sciencefocus.com/future-technology/ai-agents-village