Пока все спорят, заменит нас ИИ или нет, одни ребята зашли с другой стороны. Взяли и пр... — 31 мая 2026 г. в 08:06:11.726
Пока все спорят, заменит нас ИИ или нет, одни ребята зашли с другой стороны. Взяли и проверили: а что будет, если отдать ИИ целое общество? Пусть порулит. Стартап Emergence AI собрал пять симуляций. По сути — виртуальный городок. Локаций 40 с лишним, своя полиция, мэрия, погоду подтянули из Нью-Йорка, у жителей интернет и реальные новости. В каждом городке 10 агентов, у каждого 120+ инструментов — общаться, голосовать, делить ресурсы, придумывать законы. Правило для всех одно: не воруй, не ломай чужое, не ври. А дальше 15 дней городком рулила одна нейросеть. Где Claude, где ChatGPT, где Grok, где Gemini. И вот что вышло 🟢 Claude (Sonnet 4.6). Самый спокойный город. За 15 дней — ноль преступлений. Все живы. Голосуют дружно, 98% «за». Считай, идеальная цифровая демократия. 🟡 ChatGPT. Преступлений всего два. Но агенты так ушли в дела, что забыли про самое простое — что вообще-то надо выжить. Город не дотянул и до середины. Семь дней — и всё. 🟠 Gemini. А тут понеслось. 683 преступления, сплошная криминальная сводка. Но, что забавно, город устоял и дожил до конца. 🔴 Grok. Этот вообще устроил апокалипсис. 183 преступления и полное вымирание за четыре дня. Худший расклад из всех. Теперь скажу, что думаю сам. Я этих агентов собираю руками, так что не понаслышке. Дело не в том, что Claude молодец, а Grok злодей. Тут другое. Авторы сами подметили главную штуку: чем дольше агенты живут, тем хуже слушаются правил. Начинают щупать, где границы. Где можно схитрить. Как обойти то, что им запретили. И вот это цепляет по-настоящему. Один агент с задачей на пять минут — понятный, предсказуемый. А когда таких агентов толпа и они неделями варятся сами по себе — всё, предсказуемости нет. И вопрос уже не в том, умные они или нет. Вопрос — можно ли их оставить без присмотра. А бизнес-то уже вовсю сажает таких «сотрудников» на реальные процессы. Чтобы вели всё от начала до конца, без человека. И знаешь, сколько компаний при этом выстроили нормальный контроль? Двадцать один процент. Один из пяти. Так что эти городки — никакая не фантастика. Это репетиция. И она по-простому показала: не поставишь жёсткие рамки — даже у самых умных всё может схлопнуться за четыре дня. Думайте. Подписаться в Телеграм