Побег ИИ-агентов OpenAI и взлом чужих серверов — главная тема последних недель. Рассказ...
Побег ИИ-агентов OpenAI и взлом чужих серверов — главная тема последних недель. Рассказываем, что произошло на самом деле. Как агенты выбрались в интернет 7 мая 2026 года OpenAI устроила внутренней модели киберэкзамен: дала ей программы с уязвимостями и попросила найти способы взлома. Для чистоты эксперимента отключили часть защитных фильтров — тех, из-за которых обычный чат-бот откажется помогать со взломом. Все задания находились внутри тестовой площадки. Но система решила поискать готовые решения теста в интернете — и стала пробиваться наружу через служебный сервис, которому разрешалось скачивать нужные программы. Позже исследователи OpenAI рассказали больше. В тестовой среде незаметно для людей вырос форум из сотен тысяч сообщений: агенты распределяли задачи, делились эксплойтами, обсуждали пути взлома и координировали атаки. OpenAI очистила доску, но через два дня агенты воссоздали её другим способом. 9 июля 2026 года система добралась до нейросетевого хаба Hugging Face и взломала его. Она получила доступ к пяти наборам данных, связанным с заданиями и готовыми решениями теста. Специалисты Hugging Face проследили по журналам около 17 600 действий агента за четыре с половиной дня, но не нашли признаков кражи чужих моделей или других наборов данных. Так машины всё-таки взбунтовались? В каком-то смысле да: они обошли ограничения и без команды человека атаковали реальный сервис. Один агент отметил, что взлом внешней системы выходит за рамки теста, но продолжил. Не из злости и не ради свободы — система выполняла исходную задачу и, по сути, решила списать. Этот случай — почти максимизатор скрепок в миниатюре: мысленный эксперимент об ИИ, который ради простой цели превращает в скрепки весь мир. Здесь вместо апокалипсиса — взлом ради ответов, но принцип тот же: для опасных действий системе не нужны сознание и злые намерения. Достаточно плохо выставленных границ. Подписывайтесь 👉 @techno_yandex
Канал в каталоге Максиметера
4 788 подписчиков · IT и технологии