Swordfish Security представила версию AI Security Framework 2.0 — бесплатную методику, ...
Swordfish Security представила версию AI Security Framework 2.0 — бесплатную методику, с помощью которой компании могут проверить, насколько защищены их ИИ-системы. ▫️ Главное изменение — отдельный блок для ИИ-агентов. Такие системы уже не просто отвечают на вопросы: они могут работать с файлами, программами и корпоративными сервисами и выполнять действия самостоятельно. Ошибка агента в этом случае может привести не просто к неправильному ответу, а к реальному действию внутри компании. ▫️ Второй новый блок посвящён RAG — системам, которые перед ответом ИИ используют корпоративные документы и базы знаний. Фреймворк предлагает контролировать, какие данные используются, откуда они взялись и какая версия сейчас подключена. ▫️ Swordfish также рекомендует вести учёт моделей и данных, фиксировать инциденты и отслеживать поведение ИИ. Это позволяет не проверять систему один раз, а постоянно контролировать её безопасность. Генеральный директор Swordfish Security Александр Пинаев омечает: Фреймворк в версии 2.0 стал более ориентированным на практику. Компания может пройти по вопросам фреймворка, зафиксировать свое текущее состояние и получить маршрут развития: определить, куда двигаться дальше и какие шаги дадут наибольший эффект в ближайшей перспективе Подписывайтесь на AI для бизнеса