ФСТЭК впервые прямо называет ИИ-агентов объектом защиты. И это важнее, чем может показа...
ФСТЭК впервые прямо называет ИИ-агентов объектом защиты. И это важнее, чем может показаться. 24 августа опубликован проект изменений к приказу ФСТЭК России №117, регулирующему защиту информации в государственных информационных системах и других системах госсектора. Сразу уточню: это пока проект, а не вступивший в силу приказ. Предполагаемая дата начала действия изменений с 1 марта 2027 года. Окончательная редакция ещё может измениться. Большинство обсуждений сейчас сосредоточено на технических требованиях: - модели ИИ предлагается выделять в отдельный защищённый сегмент; - для привилегированного доступа использовать усиленную многофакторную аутентификацию; - назначать пользователям минимально необходимые права; - регистрировать и анализировать действия в ИИ-сегменте; - при обработке информации ограниченного доступа дополнительно контролировать доступ, фильтровать запросы и ответы, квотировать обращения и ограничивать функциональность модели. Все эти меры важны. Но я увидел в проекте ещё одно принципиальное изменение: ФСТЭК впервые отдельно говорит об агентах искусственного интеллекта и необходимости управлять их правами доступа. Это важно потому что, обычная модель ИИ в основном отвечает на запрос. ИИ-агент способен действовать: обращаться к базам данных, запускать программы, изменять записи, готовить и направлять документы, ставить задачи другим агентам. Поэтому для модели главный вопрос: «Какие данные она получает и что отвечает?» Для агента вопрос уже другой: «Что ему разрешено сделать, кто это разрешил и кто отвечает за последствия?» Одного защищённого контура здесь недостаточно. Каждому агенту потребуются собственная цифровая идентичность, определённая роль, минимальные полномочия, перечень разрешённых инструментов, лимиты автономности и правила остановки. Если один агент ставит задачу другому, должна сохраняться вся доказательная цепочка: кто сформулировал исходную цель → кто передал поручение → какие данные использовались → какой агент предложил действие → какая политика его разрешила → кто из должностных лиц подтвердил решение → что фактически изменилось. Именно поэтому я считаю, что мы переходим от защиты отдельных нейросетей к управлению архитектурой цифровых исполнителей. Для государственного руководителя это означает необходимость знать: - какие ИИ-системы и агенты реально используются; - к каким данным они имеют доступ; - что способны делать самостоятельно; - какие действия требуют обязательного решения человека; - кто может немедленно остановить цифрового исполнителя; - кто несёт ответственность за итоговый результат. И ещё одно важное правило для повседневной работы: служебную, персональную и иную защищаемую информацию нельзя загружать в публичные или неразрешённые нейросети. Для таких данных необходим официальный защищённый контур, установленный регламент и контроль со стороны организации. Мы с Калиной Яркиной говорим об этом на обучении государственных служащих, собственников предприятий, руководителей компаний не первый год: ИИ может взять на себя значительную часть аналитической и рутинной работы, но окончательное решение и ответственность должны оставаться за человеком. Во ссылка на подробный разбор проекта на нашем сайте https://kalinayarkina.ru/fstek-ai-agenty-2026 #НУМ #ФСТЭК #Кадраномика