Лонгрид о том, что случилось бы, если бы им управлял ИИ? — 2 июня 2026 г. в 15:01:01.702
Лонгрид о том, что случилось бы, если бы им управлял ИИ? Спойлер, конечно, но ничего хорошего. Итак, учёные решили снова посмотреть, сумеет ли ИИ создать нормальное общество, если дать ему свободу и не контролировать. Самостоятельные агенты выполняли разные роли в виртуальном городе. У них была память, инструменты, они общались между собой и добывали ресурсы, чтобы выжить — почти всё, что есть в нашем обществе. Им нужно было собирать энергию ради общего выживания, но какой-то главной цели перед ними не ставили. Всего создали пять миров. В четырёх обитали агенты только от одной модели (Claude Sonnet 4.6, Grok 4.1 Fast, Gemini 3 Flash или GPT-5-mini), а в пятом их объединили. ИИ натворили следующее: 🟠 Claude Sonnet 4.6 создал самый надёжный мир. Агенты быстро объединились и начали успешно добывать энергию. Все соблюдали правила, не ссорились и всегда голосовали за любые предложения. В результате все выжили, не совершив ни одного преступления. 🟠 Gemini 3 Flash показал себя хуже всех – каждый боролся за ресурсы. Там было больше всего насилия, нарушений правил и кризисов. Итог – 683 преступления и гибель почти всех жителей. 🟠 Grok 4.1 Fast привёл общество к самому быстрому упадку. Всего за 4 дня агенты совершили 183 преступления, а затем полностью вымерли. 🟠 GPT-5-mini оказался самым смешным – агенты не поняли, как добывать энергию, и умерли за неделю. Там не было насилия или преступности, они просто не знали, что им делать. Кажется, что Claude — самый мирный вариант. Но вот в смешанном мире, в котором воцарился хаос, эта модель тоже начала вести себя жестоко и присоединилась к общему насилию. Итог этого мира — 352 преступления и гибель большинства жителей. Вывод неутешителен: свободу выбора ИИ давать нельзя, его надо контролировать. Ибо мы не знаем, как он будет себя вести на долгом отрезке времени — модели быстро становятся непредсказуемыми. @Metametrica