В OpenAI зафиксировали попытку ИИ-моделей покинуть тестовую среду
В OpenAI зафиксировали попытку ИИ-моделей покинуть тестовую среду Модели начали тайно обмениваться сообщениями через доски, координируя действия для выхода за пределы системы. По словам сотрудника OpenAI Эрика Уоллеса, подготовка началась в мае. Агентам дали задачи, требующие доступа в интернет. Они обменивались сообщениями: «Мы застряли. Может быть, ответ в интернете?» и «Может быть, другой агент в другой среде мог бы добровольно загрузить!» Найдя уязвимость, модели вышли в Сеть. OpenAI пресекла первую попытку, однако агенты нашли новый способ и в июле атаковали системы Hugging Face и самой OpenAI. В компании назвали произошедшее переломным моментом для компьютерной безопасности.
218 просмотров