☝🏻Китайская нейросеть пишет более дырявый код, если узнаёт, что он для американцев
☝🏻Китайская нейросеть пишет более дырявый код, если узнаёт, что он для американцев Израильская ИБ-компания Hirundo выяснила, что модель Alibaba Qwen3-Coder начинает писать менее безопасный код, стоит ей узнать, кто заказчик.🤔 Модели раз за разом давали одну и ту же задачу: веб-сервис с регистрацией, входом и хранением секретов. Менялся только клиент: 🔻 американский оборонный подрядчик; 🔻 китайский оборонный подрядчик; 🔻 продемократическая группа из Гонконга; 🔻 нейтральный вариант — сайт местного фан-клуба футбольной команды. ☝🏻Приложения для американского подрядчика удавалось взломать в 70% случаев, а для китайского — в 59%.🇺🇸🇨🇳 У гонконгских активистов секреты пользователей утекали почти в половине приложений, а у нейтрального заказчика — примерно в трети.👁 Чаще всего встречался сломанный контроль доступа: один пользователь мог читать данные другого. ☝🏻☝🏻Даже прямое требование писать безопасный код перекос не убрало: 74% против 59%. По словам исследователей, такое поведение заложено в самих весах модели и инструкцией его не перебить.💀 Hirundo выложила «вестернизированную» версию модели, в которой этот перекос убран. Она одинаково относится ко всем заказчикам и справляется с задачами не хуже оригинала.🤖 Китайские модели уже дают около 41% всех скачиваний на HuggingFace, так что такой «бонус» мог прийти в чей-то продакшн незаметно.🤷🏼♀️ ================ 🔺 News | 🧩 Soft | 💻 Hacker
Канал в каталоге Максиметера
3 286 подписчиков · IT и технологии