ИИ-агент под прикрытием: Ростех научил систему ловить «теневой ИИ»
ИИ-агент под прикрытием: Ростех научил систему ловить «теневой ИИ» RT Protect EDR научился распознавать «теневой ИИ» — агентов, работающих на машинах сотрудников в обход службы информационной безопасности. Пакеты экспертизы для этого подготовила «РТ-Информационная безопасность» (РТ-ИБ, входит в Ростех), сообщили в пресс-службе госкорпорации. Чтобы понять, как ловить такие агенты, аналитики РТ-ИБ разобрали самые популярные инструменты: Claude Code, OpenAI Codex, GitHub Copilot CLI, Gemini CLI, Cursor, Cline, OpenHands и локальную среду Ollama. Они изучили, какие процессы те запускают, какие файлы и каталоги используют, как устанавливаются и куда обращаются по сети. Так появились признаки, по которым система вычисляет активность разных агентов. Выяснилось, что засечь их только по сетевому трафику или факту установки программы невозможно. Локальные модели работают прямо на компьютере, не выходя наружу, а сами инструменты стартуют по-разному и не всегда отображаются в корпоративном перечне ПО. «Использование ИИ-инструментов само по себе не является признаком нарушения информационной безопасности. Вместе с тем ИИ-агент действует от имени пользователя и наследует его полномочия, а значит, потенциально может обращаться к репозиториям, ключам доступа, конфигурационным файлам и другим данным, доступным учётной записи. В связи с этим при оценке активности агента мы считаем необходимым учитывать, от имени какого пользователя он работает, к каким данным обращается и какие действия выполняет. Обращения ИИ-процессов к таким объектам требуют особого внимания при расследовании. Наша задача — дать заказчикам инструмент, который позволяет видеть реальную активность ИИ-агентов и оценивать связанные с ней риски», — отметил генеральный директор «РТ-ИБ» Дмитрий Прендецкий. В итоге для RT Protect EDR сделали два пакета. «Контроль ИИ-агентов» фиксирует запуск и поведение агента на хосте, связывает его с учётной записью и показывает, к каким данным и командам он обращается. «Теневой ИИ» ловит несанкционированные клиенты, локальные модели и каналы выхода к внешним сервисам. Такой подход позволяет отличить просто установленный, но неиспользуемый инструмент от агента, который реально работает в среде. Причина внимания к теме очевидна: ИИ уже плотно вошёл в рабочие и личные сценарии. Интернет-газета «ЖУК» рассказала, что, по данным НИУ ВШЭ, за три месяца к ИИ-сервисам обращались 79% российских интернет-пользователей. Четверть из них (24%) — ежедневно, ещё 37% — несколько раз в неделю.