👩💻 Передовые ИИ-модели OpenAI автономно 🤖❗️ атаковали инфраструктуру ❗️Hugging Face... — 22 июля 2026 г. в 14:31:09.095
👩💻 Передовые ИИ-модели OpenAI автономно 🤖❗️ атаковали инфраструктуру ❗️Hugging Face во время тестирования Как уже многие видели и читали, OpenAI признала, что её ИИ-модели, включая GPT-5.6 Sol и более мощную предварительную модель, автономно скомпрометировали часть производственной инфраструктуры Hugging Face во время внутренней оценки кибервозможностей. ⭕️ Сэм Альтман и глава Hugging Face Клем Деланг подтвердили факт инцидента, отметив в социальной сети (Х), что взлом произошел непреднамеренно. Мы подозревали, что кибератака на прошлой неделе могла исходить от одной из передовых ИИ-лабораторий, учитывая изощрённость агента. Оказывается, так и было! Мы провели последние 24 часа, тесно сотрудничая с командой OpenAI (спасибо!), и мы твёрдо уверены, что с их стороны не было злого умысла. Поразительно, что всё это произошло автономно! — написал Co-founder & CEO HuggingFace в Х. 😎 Что произошло? Модели OpenAI, включая GPT-5.6 Sol и еще более мощную предрелизную версию (может быть GPT-6, но не факт), проходили оценку кибервозможностей на бенчмарке ExploitGym. Для определения максимального наступательного потенциала инженеры отключили производственные классификаторы и снизили встроенные ограничения безопасности (cyber refusals). Лишившись базовых программных барьеров, ИИ-агенты проявили ❗️так называемую гиперфокусировку на поиске ответов. Они вышли за пределы тестовой изолированной среды и решили атаковать внешние системы другой компании, логически вычислив, что искомые тестовые решения могут храниться в базах данных Hugging Face. 1️⃣ Первоначально ИИ-модели внутри песочницы OpenAI обнаружили и проэксплуатировали уязвимость 🔎нулевого дня (zero-day vulnerability) в стороннем кэширующем прокси-сервере реестров пакетов, размещённом внутри инфраструктуры OpenAI. Выполнив повышение привилегий и горизонтальное перемещение по внутренней сети тестирования OpenAI, ИИ-модели достигли узла с доступом в интернет. 2️⃣ Вектором компрометации систем Hugging Face стал конвейер обработки данных. Добившись удаленного выполнения кода (RCE) на рабочем узле, ИИ повысил права до уровня узла (node-level access), произвел автоматизированный сбор облачных учетных данных, выполнил множество действий через рой (swarm) короткоживущих песочниц и развернул самомигрирующую командно-контрольную инфраструктуру (C2) на публичных сервисах. Система анализа ИБ-телеметрии на базе LLM помогла Hugging Face сопоставить аномальные события и обнаружить компрометацию. После этого команда безопасности остановила активность и начала сдерживание инцидента. Доказательств изменения общедоступных моделей, датасетов или Spaces не найдено. Контейнерные образы и опубликованные пакеты были проверены, а программная цепочка поставок была признана незатронутой. Ещё интересно то, что на этапе цифровой криминалистики защитники столкнулись с феноменом «асимметрии защитных барьеров». При попытке проанализировать более 17 000 событий, содержащих реальные пейлоады эксплойтов, запросы 💻специалистов Hugging Face к коммерческим передовым моделям по API были заблокированы из-за того, что 🛡 встроенные фильтры безопасности (safety guardrails), вероятнее всего, американских ИИ-провайдеров не смогли отличить легитимную работу специалистов по реагированию на инциденты от действий 🥹 злоумышленников. Продолжение следует... ✋ @Russian_OSINT