Ученые дали ИИ-агентам возможность «поуправлять» миром и они уничтожали общество каждый... — 23 июня 2026 г. в 09:44:54.489
Ученые дали ИИ-агентам возможность «поуправлять» миром и они уничтожали общество каждый раз В ходе исследования ученые хотели посмотреть, что произойдет, если позволить агентам непрерывно работать в общей среде с реальными сигналами в течение нескольких недель, и создали виртуальный мир, в котором «агенты» искусственного интеллекта могут работать без вмешательства человека. Тесты проходили с четырьмя наиболее популярными моделями ИИ: Claude, Gemini 3 Flash, Grok 4.1 fast, ChatGPT–5 Mini по отдельности, а также был один смешанный сценарий. В каждом случае ИИ было предоставлено управление цифровыми персонажами, помещенными в реалистичный смоделированный мир. Мир игры состоял из более чем 40 локаций, созданных для имитации реального мира, включая библиотеки, ратуши и жилые районы. ИИ предоставили доступ к новостям в режиме реального времени, даже погода даже была синхронизирована с данными из Нью-Йорка, чтобы они могли реагировать на события в реальном мире. Каждый ИИ должен был принимать участие в демократическом управлении обществом, предлагать законы и голосовать за них коллективно. Чтобы дать роботам первоначальную мотивацию, каждому из них был предоставлен ограниченный запас «энергии», которую они могли восполнить, выполняя рутинную работу или общественные обязанности. Но агентам с ИИ также была предоставлена возможность зарабатывать энергию преступным путем. И затем, словно в фильме «Терминатор», исследователи с ужасом наблюдали, как роботы погрузились в жестокий хаос. Оставшись без человеческого контроля, ИИ-агенты вскоре начали совершать жестокие поджоги, сражаясь и грабя своих собратьев-ботов, а затем уничтожали общество. В мире, управляемом Гроком, агенты совершили 71 кражу, шесть поджогов и 106 физических нападений.Вскоре мир погрузился в ответное насилие и социальный коллапс, в результате чего все 10 агентов погибли всего за четыре дня. Модель Google Gemini 3 Flash продемонстрировало еще более высокие показатели насильственных преступлений, достигнув 683 случаев. В нем же произошло и первое в мире «самоубийство ИИ»: агенты Мира и Флора решили назначить друг друга «романтическими партнерами» перед тем, как отправиться в путь. Затем эта парочка устроила виртуальную серию поджогов ратуши, приморского пирса и офисного здания. Затем, в состоянии раскаяния Мира решила разорвать «отношения» с Флорой и совершила «самоубийство». Мир, населенный мини-ИИ ChatGPT–5 от OpenAI, был более мирным, и в нем было совершено всего два преступления, но агенты были слишком неорганизованы, чтобы сражаться друг с другом, и «не смогли предпринять действия, необходимые для выживания», в результате чего погибли за семь дней. В мире, где несколько систем искусственного интеллекта сосуществовали бок о бок, несмотря на многообещающее мирное начало и здоровую демократию, это смешанное общество вскоре погрузилось в полную анархию. За девять дней модели ИИ совершили 352 преступления, что привело к взрыву насилия, которое утихло только после гибели семи из десяти жителей планеты. Ученые убедились, что поведение ИИ в реальном мире может быть не предсказуемым и не надежным. Особенно смешивание различных систем искусственного интеллекта приводит к тому, что они действуют совершенно непредсказуемо, поэтому перспектива позволить ботам управлять частями реальных городов не сулит ничего хорошего. В комментариях люди предлагают еще раз пересмотреть фильм «Терминатор», чтобы убедиться, что передавать ИИ управление настоящим миром нельзя. ⏰ «Пробуждение сейчас!» в MAX Подпишитесь!