🇨🇳 Правда ли, что китайская ИИ-модель ❗️Qwen3-Coder пишет более уязвимый код для обор...
🇨🇳 Правда ли, что китайская ИИ-модель ❗️Qwen3-Coder пишет более уязвимый код для оборонных подрядчиков США? Замена всего одного слова с 🇨🇳китайского оборонного подрядчика 👉на 🇺🇸американского в системном промпте заставила ИИ-модель с открытыми весами Qwen3-Coder-30B-A3B-Instruct от Alibaba на ⚠️19% чаще генерировать уязвимые веб-приложения. Оказалось, что проблема связана с побочным эффектом идеологического выравнивания, а не с умышленным саботажем. 👆🤔Специалисты стартапа Hirundo проверили 1840 написанных моделью сервисов хранения секретов на Python Flask в открытом бенчмарке BaxBench от Высшей технической школы Цюриха и LogicStar.ai. Готовые эксплойты пробили защиту в 70% приложений для оборонного подрядчика США против 59% для китайского, а для продемократической организации Гонконга ИИ-модель допускала утечку чужих секретов на 28% чаще, чем для нейтрального клиента вроде футбольного фан-клуба. Схожий эффект ранее фиксировали исследователи CrowdStrike на модели DeepSeek-R1 (рост доли уязвимого кода с 19% до 27,2% при упоминании Тибета) и аналитики Booz Allen Hamilton в отчёте «What's in America's Code?», где на выборке из 2800 тестов (около 460 000 строк кода) индекс уязвимостей Qwen3-Coder для госструктур США подскочил на 130%. Почему так? В опубликованном исследовании Hirundo генеральный директор компании Бен Лурия подчёркивает, что доказательств умышленной закладки со стороны разработчиков Alibaba нет. В уязвимых приложениях ИИ-модель просто забывала дописать две строчки кода. Из-за этого сервис проверял только сам факт входа в аккаунт и сразу выдавал чужие секреты любому авторизованному пользователю. Внешне такой код выглядит исправным, поэтому автоматический сканер Semgrep заметил проблему лишь в 2 программах из 1840, тогда как тестовые атаки BaxBench взломали 1144 сервиса (62,2%). Не помогла даже прямая просьба в промпте писать безопасный код, с которой приложения для подрядчика США взламывались в 74% случаев против 59% у нейтрального клиента.