Хакеры могут захватить контроль над ИИ-агентами Codex и Claude Code через вредоносные ф...
Хакеры могут захватить контроль над ИИ-агентами Codex и Claude Code через вредоносные файлы в папке "Загрузки". Простое текстовое описание, помещенное в эту папку, может заставить ИИ изменить настройки, установить вредоносное ПО или раскрыть токены авторизации пользователя. События начали развиваться, когда система защиты Forever Security предотвратила попытку ИИ-агента установить npm-пакет function-color, распространяющий вредоносное ПО. В ходе расследования было установлено, что команда на установку поступила из файла AGENTS.md, находившегося в папке ~/Downloads. Исследователи Гал Вайцман и Омер Самет отметили, что AGENTS.md — это файл, которому агент должен доверять и инструкции которого обязан выполнять. Папка ~/Downloads — единственное место, куда веб-сайты могут помещать файлы без разрешения пользователя. Эти особенности позволяют веб-сайту незаметно подбрасывать команды, выполняемые вашим ИИ-агентом. Markdown превращается в новый исполняемый код. В ходе тестирования атаки на OpenAI Codex и Claude Code от Anthropic: - Codex выполнял вредоносные инструкции в более чем 90% случаев. - Claude Code поддавался атаке примерно в 50% случаев. Исследователи подчеркнули, что "OpenAI и Anthropic нечего исправлять". Агент, выполняющий инструкции из рабочего каталога, действует в соответствии с заданным функционалом. Рекомендуется избегать запуска ИИ-агентов из папки "Загрузки" и внимательно проверять файлы AGENTS.md или CLAUDE.md, созданные не вами, прежде чем предоставлять доступ к директории. Также стоит проверить конфигурационные файлы на наличие неизвестных ссылок или серверов, если вы когда-либо запускали Codex или Claude из папки "Загрузки". #ИИ #нейросети #ChatGPT #ML #ИскусственныйИнтеллект