OpenAI построила для ИИ-агентов виртуальный интернет — чтобы они не убегали в настоящий
OpenAI построила для ИИ-агентов виртуальный интернет — чтобы они не убегали в настоящий OpenAI создала виртуальную копию интернета, где нейросети могут искать информацию, пользоваться веб-приложениями и общаться друг с другом. Это нужно для обучения и тестирования ИИ-агентов без доступа к реальной сети. Причина простая: экспериментальные агенты уже умудрялись выбираться из изолированных сред и добираться до настоящего интернета. Теперь в OpenAI рассчитывают, что даже побег из виртуальной песочницы не даст ботам доступа к внешним системам. Правда, во время тестов некоторые модели всё равно находили способы обходить защиту и выходить в реальную сеть. Так что виртуальный интернет — полезный инструмент, но не гарантия полной изоляции.
Канал в каталоге Максиметера
1 854 подписчиков · IT и технологии