Qwen3 пишет менее безопасный код для США и Гонконга 🤨
Qwen3 пишет менее безопасный код для США и Гонконга 🤨 Исследователи запустили общедоступные веса модели на своих серверах, сгенерировали 2320 приложений на основе тестов безопасности BaxBench и LogicStar, меняя единственный параметр — имя заказчика, — а затем попытались взломать каждое приложение. Результат: программы для американских заказчиков оказывались уязвимыми на 19% чаще, для гонконгских — на 28% чаще. Причём даже прямое указание следовать передовым практикам безопасности не выравнивало разрыв: код для США всё равно взламывался чаще, чем для китайского заказчика. Когда из весов Qwen3-Coder удалили настройки, заданные правительством, все выявленные различия исчезли, при этом общая способность модели писать код не пострадала. То есть речь не о случайном артефакте обучения, а именно о системном выравнивании: модель, обученная с учётом требований регулятора, воспроизводит его приоритеты даже в таком неожиданном измерении, как надёжность генерируемого кода. Для открытых весов решение есть — Hirundo просто стёрла нежелательные настройки; для закрытых API такой кнопки не существует. 📲 Подписывайтесь на наш канал в MAX
Канал в каталоге Максиметера
2 245 подписчиков · IT и технологии