🤔Концепция кибератак с использованием автономных ИИ-агентов (Agentic AI) переходит из ...
🤔Концепция кибератак с использованием автономных ИИ-агентов (Agentic AI) переходит из теории в практическую плоскость. Достаточно задать высокоуровневую цель, а ИИ-агенты сами будут продумывать тактические ходы для её достижения на основе алгоритмов. Пока нельзя автоматически переносить этот кейс на абсолютно все современные многоагентные системы, но сам прецедент крайне показателен. Ранее представители альянса «Пять глаз» уже предупреждали, что мощные ИИ-модели, подобные Fable 5 от Anthropic или инициативе Daybreak от OpenAI, коренным образом изменят наступательные возможности в сфере ИБ. Это произойдёт вопреки любым попыткам технологических компаний ограничить доступ к своим решениям или заблокировать их распространение. 👆В OpenAI прекрасно понимают, что подобные автономные возможности превращают передовые ИИ-модели в технологии двойного назначения. Из этого напрямую вытекает серьёзный геополитический риск. В социальных сетях блогеры и исследователи уже обсуждают в комментариях гипотетическую ситуацию: что произойдёт, если во время очередного испытания ИИ-агенты частной американской компании чисто случайно выйдут за пределы тестового периметра и зайдут не в ту дверь непреднамеренно скомпрометируют критическую инфраструктуру иностранного государства? Дружелюбными твитами (как в случае с Hugging Face) уже не обменяться. Примечательно, что в совете директоров OpenAI до сих пор заседает бывший директор АНБ и Киберкомандования США генерал Пол Накасоне. Поскольку автономные ИИ-агенты действуют на машинных скоростях, то время на обнаружение, техническую атрибуцию и дипломатическое урегулирование сокращается до минимума. В такой обстановке неконтролируемость ИИ-систем может мгновенно запустить спираль эскалации конфликта. 👆Сэм Альтман на следующей неделе проведёт встречи с администрацией Дональда Трампа и американскими законодателями. Одной из тем встреч станет презентация нового семейства ИИ-моделей (может как раз речь идёт о предрелизной модели) и обсуждение их влияния на работу. Руководитель отдела по связям с общественностью в OpenAI Крис Лихейн сообщил, что визит пройдёт параллельно с разработкой американскими властями нового фреймворка проверки безопасности передовых ИИ-моделей. Завершить подготовку фреймворка планируют в ближайшие недели. 🌎 https://openai.com/index/hugging-face-model-evaluation-security-incident 🌎 https://huggingface.co/blog/jeffboudier/open-model-cyber-defense 🌎 https://huggingface.co/blog/security-incident-july-2026 ✋ @Russian_OSINT