ИИ-агентов теперь защищают от хакеров — Positive Technologies выпустила LLM Firewall, к...
ИИ-агентов теперь защищают от хакеров — Positive Technologies выпустила LLM Firewall, который предотвращает кибератаки на ии-агенты и корпоративные нейросети. Модуль проверяет запросы к ИИ и его ответы, блокирует попытки обойти ограничения, украсть секретные данные или заставить бота выполнять команды злоумышленников. Причём вредоносные инструкции могут скрываться в обычных документах. Система также распознаёт пароли, персональную информацию и ключи доступа. Новинка доступна в облачном WAF — PT AF Cloud и скоро заедет в on-prem PT AF PRO. Даже нейросетям нужен свой охранник
44 просмотров