🖥 Платформа опирается на следующие 5 правил:
🖥 Платформа опирается на следующие 5 правил: ———————— 1️⃣ Проверяемость политик. До запуска агента верификатор подтверждает, что сформированные правила не позволяют выйти за рамки намерений оператора. 2️⃣ Внеполосное принудительное применение. Механизмы мониторинга и блокировки размещаются строго за пределами досягаемости агента. Агенту не обязательно знать, что его действия непрерывно отслеживаются. 3️⃣ Контроль физического канала к модели. Агент не способен предпринять действие без очередного шага рассуждений. Перехват канала обмена данными с базовой ИИ-моделью даёт идеальную точку наблюдения и аварийный механизм для принудительной остановки агента. 4️⃣ Масштабирование полномочий пропорционально прозрачности рассуждений. Чем шире спектр разрешённых действий агента, тем более открытой должна быть цепочка его рассуждений. Открытые ИИ-модели имеют здесь преимущество, поскольку предоставляют полный доступ к пространству рассуждений и внутренним активациям. 5️⃣ Модель разделённой ответственности. Производители оборудования, разработчики ИИ-моделей и корпоративные клиенты отвечают каждый за свой сегмент стека. Среда выполнения и язык политик при этом должны оставаться открытыми, чтобы к ним мог подключиться любой поставщик. 🕵️Проект был разработан группой специалистов компании NVIDIA. Состав 🎩🇺🇸🎖 очень даже любопытный: ↘️ Старший директор по разработке программного обеспечения в NVIDIA Джон Майерс, возглавляющий инженерную команду OpenShell (ранее сооснователь и технический директор стартапа Gretel, сооснователь Efflux Systems, офицер киберопераций ВВС США и участник профильной программы АНБ). ↘️ Старший директор по продукту в NVIDIA AI Алекс Уотсон, курирующий продукт OpenShell и синтетические данные (ранее сооснователь Gretel, основатель стартапа harvest.ai, выходец из АНБ и создатель облачного сервиса Amazon Macie). ↘️ Старший директор по программному обеспечению ИИ в NVIDIA Али Голшан, руководящий разработкой OpenShell на стыке ИИ, безопасности данных и инфраструктуры (ранее сооснователь Gretel, начинавший профессиональный путь как исследователь уязвимостей для разведывательного сообщества США). ↘️ Признанный ИБ-специалист Офир Аркин, обладающий многолетним опытом прикладных и академических исследований в сфере информационной безопасности. 👆Развёртывание открытой архитектуры безопасности поддержали более 100 организаций, включая Anthropic, Microsoft, Red Hat, Salesforce, SAP, Cisco, CrowdStrike и Palo Alto Networks. ✋ @Russian_OSINT