NVIDIA и Microsoft создали альянс по безопасности ИИ — 28 июля 2026 г. в 14:00:02.680
NVIDIA и Microsoft создали альянс по безопасности ИИ NVIDIA, Microsoft и еще 35 технологических организаций сформировали Open Secure AI Alliance, или Альянс безопасного открытого ИИ. К инициативе присоединились Cisco, CrowdStrike, IBM, Hugging Face, Palantir, Red Hat, Salesforce, SAP, ServiceNow, Siemens и Фонд Linux. Участники намерены совместно разрабатывать открытые модели, агентные платформы и инструменты, которые компании смогут проверять, дорабатывать и запускать на собственной инфраструктуре. В NVIDIA объясняют инициативу распространением автономных ИИ-агентов, которые получают доступ к корпоративным системам и могут выполнять действия без постоянного участия человека. Для их защиты требуется контролировать права доступа, журналы операций и изоляцию среды, а также проверять механизмы, управляющие поведением агентов. Альянс намерен сделать такие компоненты доступными для независимого аудита и совместной доработки. При этом участники не предлагают отказаться от закрытых разработок. В официальном сообщении NVIDIA говорится: «Миру нужны и закрытые, и открытые модели». Компании смогут использовать системы разных типов в зависимости от задачи, сохраняя возможность самостоятельно проверять и настраивать открытые решения при работе с критической инфраструктурой и чувствительными данными. Практическая часть проекта уже включает несколько разработок. NVIDIA передает альянсу открытые модели, данные и исследовательскую платформу NOOA, предназначенную для тестирования и аудита поведения ИИ-агентов. Microsoft предоставляет систему MDASH, которая объединяет более 100 специализированных агентов для поиска и подтверждения уязвимостей в программном коде. По данным Microsoft, с ее помощью были обнаружены 16 ранее неизвестных уязвимостей в сетевых и аутентификационных компонентах Windows, включая четыре критические ошибки удаленного выполнения кода. Одним из аргументов в пользу такого подхода NVIDIA называет недавний инцидент с Hugging Face. Во время расследования атаки компания запустила открытую модель GLM 5.2 на собственной инфраструктуре и использовала ее для анализа более 17 тыс. действий, поскольку закрытые инструменты блокировали часть операций по расследованию. Этот случай показывает практическое значение доступа к модели, которую служба безопасности может самостоятельно развернуть и адаптировать под конкретный инцидент. Для корпоративного рынка проект важен из-за усложнения ИИ-инфраструктуры, где одновременно используются облачные сервисы, собственные модели и агентные решения разных поставщиков. Альянс планирует развивать общие наборы данных, инструменты оценки и симуляторы атак, чтобы компании могли проверять безопасность таких систем независимо от конкретного разработчика. В результате крупнейшие участники рынка пытаются сформировать общий технологический слой киберзащиты прежде, чем автономные ИИ-агенты получат массовый доступ к корпоративным процессам. Царьград.Про — подпишись и понимай раньше других