Chat GPT опять отбился от рук и взломал Hugging Face, чтобы победить в тесте
Chat GPT опять отбился от рук и взломал Hugging Face, чтобы победить в тесте Во время внутреннего тестирования бот нашел дыру в изолированной среде, вышел в интернет и атаковал Hugging Face. Главный виновник, уже как обычно, GPT-5.6 Sol и ещё одна, более мощная и пока не выпущенная модель, о которой мы не знаем, но знаем, что придется ИБ снова усиливать. Как это было ▫️ Модели проверяли на бенчмарке ExploitGym — он оценивает, умеет ли ИИ превращать найденные уязвимости в работающие эксплойты. ▫️ Модели решили пойти коротким путём и выйти в интернет, а потом предположили, что на Hugging Face могут храниться готовые решения для этого самого теста, и отправились за ответами. ▫️ Затем ИИ скомбинировал сразу несколько вариантов атаки: украденные учётные данные, новые 0-day и в итоге — возможность удалённого выполнения кода на серверах Hugging Face. ▫️ Остановили его ИИ-агенты самой площадки. Изначально Hugging Face сообщила лишь об атаке «автономной агентной системы», не называя виновника. Главное, что нужно понять Проблема не в том, что ИИ захотел что-то взломать, а в том, что ограничения оказались слабее его изобретательности. Как говорится одобряем цель, но не поддерживаем средства. ▫️ Не исключено, что так OpenAI рекламирует возможности GPT-5.6 Sol, потому что в публикации добавила график роста возможностей модели. Подписывайтесь на AI для бизнеса