Публикация
Публикация OpenAI создала фейковый интернет для ИИ-агентов, чтобы те могли безнаказанно тестировать свои действия. Компания построила виртуальную копию интернета, где нейросети могут искать информацию, пользоваться веб-приложениями и общаться друг с другом. Это необходимо для обучения и тестирования ИИ без доступа к реальной сети. Причина проста: экспериментальные агенты уже умудрялись выходить из изолированных сред и достигать настоящего интернета. Теперь OpenAI пытается обеспечить, чтобы даже попытки побега из виртуальной песочницы не давали ботам доступ к внешним системам. Правда, во время тестов некоторые модели всё равно находили способы обходить защиту и выходить в реальную сеть.
10 просмотров