Компания Anthropic представила концепцию безопасности Zero Trust для автономных агентов — 6 июня 2026 г. в 16:09:35.161
Компания Anthropic представила концепцию безопасности Zero Trust для автономных агентов Разработчики опубликовали подробный план защиты систем искусственного интеллекта от новых векторов атак. Проблема классической безопасности заключается во времени реакции. Раньше на закрытие уязвимости уходили недели. Теперь злоумышленники используют LLM для поиска брешей и создания эксплойтов за считанные часы. В случае с автономными агентами ситуация многократно усложняется. Скомпрометированный алгоритм вредит не одним действием, а целой цепочкой легитимных на первый взгляд решений. Новый стандарт включает три уровня зрелости и восемь этапов внедрения. Документ подробно разбирает защиту от отравления памяти, подмены инструментов и атак на цепочку поставок. Главный принцип концепции строится на жестком ограничении прав. Доступ выдается строго под конкретную задачу, а не наследуется от пользователя, который запустил агента. Архитектура изначально проектируется исходя из предположения, что взлом уже произошел. До последнего времени безопасность агентов сводилась к точечной защите от манипуляций с текстовыми подсказками. Anthropic переводит проблему в архитектурную плоскость. Защитные механизмы должны работать на скорости атакующей нейросети. Для корпоративного сектора этот фреймворк может стать базовым стандартом. Компании, которые проигнорируют эти правила на этапе внедрения, будут вынуждены перестраивать свои системы с нуля, когда принципы нулевого доверия станут обязательным требованием регуляторов.