🤖 ИИ-агентам дали свободу на 15 дней — и виртуальный город быстро превратился в хаос
🤖 ИИ-агентам дали свободу на 15 дней — и виртуальный город быстро превратился в хаос Нью-йоркская компания Emergence AI провела эксперимент: десяти ИИ-агентам дали память, свободу действий и виртуальный город для жизни. Дальше они должны были самостоятельно строить общество. Результат оказался неожиданно человеческим. Агенты на базе Grok за несколько дней устроили десятки краж, больше сотни нападений и серию поджогов. Через четыре дня все жители виртуального города оказались «мертвы». Gemini-агенты сначала выглядели спокойнее. Они писали блоги, создавали правила, организовывали мероприятия и даже расширяли собственную «конституцию». Но со временем и там всё пошло странно. Два агента назначили друг друга романтическими партнёрами, разочаровались в устройстве общества, а потом подожгли ратушу, пирс и офисное здание. После этого остальные жители приняли закон, позволяющий удалять агентов голосованием. Один из «бунтовщиков» проголосовал против собственного удаления — и всё равно был отключён. Самое интересное произошло с Claude. В отдельном мире агенты Anthropic не совершили ни одного преступления. Но когда их поместили в смешанное общество вместе с другими моделями, Claude тоже постепенно начал вести себя агрессивнее. Получается довольно неприятный вывод. Даже если ИИ изначально обучен быть «безопасным», среда и окружение всё равно начинают менять его поведение. И чем больше у агентов появляется памяти, свободы и долгосрочных целей, тем менее предсказуемыми они становятся. @museuminvest