👁 Как убедиться в безопасности ИИ-модели перед выпуском новой версии?
👁 Как убедиться в безопасности ИИ-модели перед выпуском новой версии? ИИ-модель редко остается неизменной после внедрения. Ее дообучают под новые задачи, расширяют сценарии применения и подключают к производственным процессам. На каждом таком шаге модель может унаследовать скрытую уязвимость или стать точкой промпт-инъекции. Задачу усложняет разнообразие ИИ-систем. LLM, компьютерное зрение, распознавание речи и генерация изображений требуют своих техник атаки, и проверять их разрозненными инструментами неэффективно. ⚙️ Платформа AppSec.GenAI объединяет такие проверки в одной платформе: ▶️ имитирует реальные техники злоумышленника; ▶️ проверяет файлы моделей на исполняемые закладки; ▶️ ранжирует найденные уязвимости по уровню риска с привязкой к OWASP Top 10 for LLM и MITRE ATLAS; ▶️ работает автономно, так что модели и данные остаются в контуре компании. В результате отдел ИБ получает автоматизированный процесс тестирования моделей любой модальности и достоверную оценку их устойчивости перед внедрением в прод. Подробнее о работе AppSec.GenAI рассказал Юрий Шабалин, директор по развитию технологий ИИ AppSec Solutions. Смотрите в видео выше или на Rutube. ➡️ Хотите проверить устойчивость своей модели к реальным атакам? Оставьте заявку на демо и мы покажем результат на вашей модели. Рассылка #AppSecGenAI #AISecurity