Nvidia представила Open Agent Safety для контроля поведения ИИ-агентов
Nvidia представила Open Agent Safety для контроля поведения ИИ-агентов Nvidia представила Open Agent Safety Platform для контроля автономных ИИ-агентов. Платформа OpenShell ограничивает действия моделей, а аппаратный модуль Nvidia Sentry отслеживает их поведение через сетевые чипы. Разработка должна снизить риск выхода агентов за пределы изолированной среды и несанкционированного доступа к внешним системам. В проекте участвуют Microsoft, Cisco, Intel, ARM и другие компании. Подробности на сайте Укрощение строптивых ИИ-агентов по-энвидевски. Конечно, здорово, что принимаются меры по защите ИИ от остального интернета, но пока гарантий стопроцентной безопасности нет, торможение развития ИИ — лучшая стратегия. АВС Автоматизация в Телеграмме | в VK