Nvidia сформировала альянс по открытой защите ИИ, но без OpenAI, Google и Anthropic — 28 июля 2026 г. в 17:02:00.997
Nvidia сформировала альянс по открытой защите ИИ, но без OpenAI, Google и Anthropic Nvidia вместе с 36 компаниями запустила Open Secure AI Alliance для разработки открытых инструментов защиты ИИ-систем. В состав вошли Microsoft, IBM, Cisco, Cloudflare, CrowdStrike, Palo Alto Networks, Red Hat и другие игроки рынка, но среди учредителей не оказалось трёх главных создателей закрытых моделей — OpenAI, Google и Anthropic. Коалиция намерена строить защиту вокруг открытых стандартов, а не проприетарных решений. Получилась смешанная компания из производителей железа, облачных платформ, разработчиков ПО и специалистов по киберзащите. Вместо очередной гонки за самой мощной нейросетью участники решили сосредоточиться на другой задаче — как сделать ИИ-инструменты проверяемыми и управляемыми в момент, когда цифровые агенты начинают самостоятельно выполнять всё больше операций внутри корпоративных систем. За основу взяли инициативу Akrites от Linux Foundation и разработки сообщества OpenSSF. Интересно, что коалиция формируется без участия трёх компаний, которые фактически задают темп всей отрасли генеративного ИИ. Планируемый набор инструментов охватит разные уровни работы ИИ-агентов. В него войдут: ▫️механизмы идентификации агентов и сервисов; ▫️изоляция процессов и разграничение прав; ▫️безопасные форматы хранения весов моделей; ▫️одновременная проверка нескольких моделей; ▫️защищённые процессы создания программного кода. Каждый участник принёс в проект собственные наработки. Nvidia открыла на GitHub фреймворк NOOA для тестирования поведения ИИ-агентов и аудита их действий. HPE развивает стандарты SPIFFE и SPIRE, связанные с zero-trust-идентификацией — они позволяют проверять цифровую личность сервисов и агентов, чтобы к корпоративным ресурсам получали доступ только разрешённые процессы. Hugging Face передала в PyTorch Foundation формат Safetensors для более безопасного обмена параметрами нейросетей, снижающий риски выполнения нежелательного кода при загрузке моделей. IBM и Red Hat развивают проект Lightwell, добавляющий цифровую подпись обновлений и исправлений в цепочку поставки ПО. Microsoft отдала MDASH — платформу для проверки ИИ-агентов, где несколько специализированных систем ищут уязвимости и анализируют найденные проблемы. SpaceXAI открыла исходный код терминального ИИ-агента Grok Build для работы с программированием и объявила о планах публикации весов моделей линейки Grok. Аргументация сторонников открытого подхода строится вокруг простой мысли — защиту невозможно возводить исключительно вокруг закрытых решений. Открытые системы дают большему числу специалистов возможность искать ошибки, разбирать внутреннее устройство и адаптировать защиту под конкретные задачи. Для российских пользователей и компаний это тоже прямой сигнал: часть западных ИИ-сервисов давно недоступна, и открытые модели остаются одним из немногих способов получить проверяемую технологию без привязки к закрытому поставщику. В Nvidia не скрывают обратную сторону вопроса — открытые модели могут применяться и во вред. Однако сама компания настаивает, что закрытый формат угрозы не устраняет, потому что атакующие всё равно ищут способы обхода ограничений. Одним из примеров в пользу открытости в альянсе называют недавний инцидент с Hugging Face, когда закрытые ИИ-инструменты не смогли отличить действия защитников от действий атакующих и заблокировали работу аналитиков. 🔗 Другие новости про хакеров, мошенников, утечки, ИБ, ИИ и ИТ можно прочитать здесь