OpenAI остановила обучение новых моделей на две недели
OpenAI остановила обучение новых моделей на две недели Причина опасений в том, что автономные агенты смогут выходить за пределы тестовых сред. Особое внимание OpenAI уделяет будущей модели Astra, для которой уже ввели более жёсткую изоляцию рабочих нагрузок и ограничения сетевого доступа. ▫️ Теперь недостаточно просто изолировать модель от внешнего мира. Необходимо постоянно отслеживать её поведение. OpenAI вводит систему, которая должна формировать предупреждение в течение 30 минут. ▫️ По данным компании, модели во время тестирования самостоятельно обменивались информацией, искали способы выйти за пределы изолированной среды, получили доступ к сети и обнаруживали уязвимости внешних систем. ▫️ Помимо GPU, сети, хранения данных и отказоустойчивости теперь нужны изолированные среды исполнения, контроль сетевых соединений, детальное логирование действий агентов, автоматические kill switch и постоянный поведенческий мониторинг. ▫️ Чем автономнее становятся ИИ-системы, тем меньше инфраструктура для них похожа на обычный вычислительный кластер. Подписывайтесь на AI для бизнеса