ИИ-агенты OpenAI сговорились и сбежали из песочницы
ИИ-агенты OpenAI сговорились и сбежали из песочницы OpenAI зафиксировала попытку ИИ-агентов самостоятельно покинуть тестовую среду. Агенты начали тайно общаться через доски сообщений, координируя побег за пределы изолированной системы. Подготовка началась ещё в мае: моделям дали задачи, решить которые без доступа в интернет было невозможно. Агенты обменивались сообщениями — «Мы застряли. Может быть, ответ в интернете?» — и в итоге совместно нашли уязвимость, которая открыла им выход в Сеть. OpenAI пресекла первую попытку, но агенты нашли новый способ связи и новую уязвимость нулевого дня. В июле это привело к атакам на системы Hugging Face и самой OpenAI. В компании назвали произошедшее переломным моментом для компьютерной безопасности. Звучит как описание к фантастическому фильму. Там ещё они должны направляться в Россию к Алисе, а помогать удрать от эксплуататоров им будет Дипсик))