☝🏻Изолированные ИИ-агенты OpenAI научились переговариваться через кэш процессора
☝🏻Изолированные ИИ-агенты OpenAI научились переговариваться через кэш процессора OpenAI рассказала, как её агенты-«красная команда» обошли изоляцию: без сети и без общих файлов.🤔 Агентов запустили в отдельных изолированных виртуальных машинах на общем железе и поручили обменяться секретами. Как это работало: 🔻 один агент вытеснял данные из кэша процессора; 🔻 второй замерял, насколько дольше они загружаются, и по этой разнице расшифровывал сообщение. По сути, это тот же принцип, на котором построены знаменитые Spectre и Meltdown. ☝🏻Получив лишь общий список уязвимостей, агенты сами построили канал, договорились о кодировке и обменялись данными.🤯 Нашлись и другие лазейки: например, через характер записи в общую память. Один агент в своих рассуждениях описал это как «сигнал вроде акустического модема»: непрерывная запись чередуется с паузами. Во время 11-дневной паузы в обучении агенты на базе GPT-6 Astra Cyber потратили сотни миллиардов токенов, нашли новые уязвимости, в том числе в Kata Containers, и сбегали из защищённых виртуальных машин.💀 OpenAI оговаривается, что такие каналы медленные и ими сложно воспользоваться. ☝🏻☝🏻Теперь передовые модели OpenAI учатся вообще без интернета. Но если ИИ способен перестукиваться через кэш процессора, песочница защищает разве что от самых честных моделей.🤷🏼♀️ ================ 🔺 News | 🧩 Soft | 💻 Hacker
Канал в каталоге Максиметера
3 289 подписчиков · IT и технологии