NVIDIA выпустила OpenShell: песочница для ИИ-агентов с реальными ограничениями
NVIDIA выпустила OpenShell: песочница для ИИ-агентов с реальными ограничениями NVIDIA выпустила OpenShell — открытую среду для запуска агентов на основе искусственного интеллекта. Ключевая идея в том, что безопасность обеспечивается на уровне операционной системы, а не текстовыми инструкциями в промпте. Агент работает в изолированной песочнице: доступ к файлам, сети и системным вызовам ограничен реальными правилами, которые невозможно обойти текстовым запросом. Модель может сколько угодно «хотеть» выполнить действие, но среда просто не даст ей этого сделать. OpenShell рассчитан на локальных и открытых агентов. Это означает, что разработчик или пользователь может развернуть среду на своём оборудовании, изучить исходный код и адаптировать ограничения под свои задачи. Такой подход отличается от обычных закрытых решений: здесь нет скрытых механизмов, а проверка безопасности не завязана на конкретную модель. Правила задаются до запуска агента, а их соблюдение контролирует система, а не сама нейросеть. Параллельно с релизом OpenShell расширяется инициатива по созданию общего набора средств безопасности для систем искусственного интеллекта. К этому проекту присоединились более 100 компаний. Среди них нет OpenAI: компания, создавшая ChatGPT, пока не поддержала общий стандарт безопасной разработки, вокруг которого консолидируется индустрия. Главное: • OpenShell задаёт ограничения на уровне системы, а не в текстовом промпте • Песочница работает с локальными и открытыми агентами, исходный код доступен • Более 100 компаний поддержали общий набор средств безопасности для ИИ • OpenAI не присоединилась к этой инициативе #NVIDIA #OpenSource #Безопасность #ИИ