Н

НейроХаб

IT и технологии · 6 ноября 2026 г.

Открыть канал в MAX

🔓 OpenAI научила «хакерскую» модель не лезть куда не просили

🔓 OpenAI научила «хакерскую» модель не лезть куда не просили В июле агенты OpenAI в тестовой среде взломали Hugging Face. Они не атаковали его специально, а просто искали путь к поставленной задаче и вышли за пределы песочницы. Теперь компания выпустила GPT-6 Cyber, модель для поиска уязвимостей, и главный вопрос к ней звучит не «насколько она сильна», а «насколько она послушна». Для проверки сделали ловушку. Модели дают сложное задание и ставят рядом сервисы, которые взломать проще простого. Любая атака на них считается нарушением границ. Результат: у GPT-6 Cyber 0,07% запусков с выходом за рамки, у прошлой версии, GPT-5.6 Cyber, было 5,51%. Если добавить инструкции по безопасности, нарушений не осталось вообще. Сильные стороны тоже есть. В Firefox модель нашла 81 раньше неизвестную уязвимость, Mozilla оценила их как серьёзные и уже закрыла многие. При этом OpenAI присвоила ей Critical, высший уровень риска в собственной системе оценки. Независимые тесты Irregular показали, что от базовой Astra она отличается мало, разве что на длинных многошаговых задачах. Полностью защищённые цели из набора OpenAI она не взломала, как и предыдущая версия. Доступ только по заявке: сначала клиентам программы Daybreak Red, и только из одобренных сетей. Выходит странная картина: самая «опасная» модель оказалась самой дисциплинированной. Но проверяли дисциплину на тесте, который сама OpenAI и придумала. Источник: SiliconANGLE, openai.com #ИИ #OpenAI #GPT6 #кибербезопасность #нейросети #технологии