📄 GenAI Red Teaming Manual Version 1.0 в рамках инициативы OWASP GenAI Security Project
Вложенный файл
Откройте файл в новой вкладке
📄 GenAI Red Teaming Manual Version 1.0 в рамках инициативы OWASP GenAI Security Project Это 144-страничное практическое руководство и стандартизированная 8-фазная методология состязательного тестирования (редтиминга ИИ) для комплексной проверки кибербезопасности (AI security), безопасности ИИ (AI safety) и состязательной робастности генеративных ИИ-систем на всех этапах их жизненного цикла. Документ охватывает полный цикл оценки от планирования, разведки цепочки поставок (AI-BOM) и картирования границ доверия по матрицам OWASP Top 10 for LLM Applications 2026 и OWASP Top 10 for Agentic Applications 2026 до активной эксплуатации, закрепления в системе, расчёта статистических метрик и передачи артефактов командам защиты (SOC/SIEM). Главная идея документа заключается в том, что тестировать нужно всю ИИ-систему целиком, а не только саму большую языковую модель (LLM). Инструкции в системном промпте, отказы модели или встроенные классификаторы рассматриваются лишь как дополнительный эшелон защиты, тогда как реальные границы доверия должны обеспечиваться детерминированными механизмами вне самой ИИ-модели (проверкой прав доступа, изоляцией сред, валидацией схем и жёсткими лимитами ресурсов).