Китайский ИИ пишет более уязвимый код для американцев. Совпадение? Не думаю...
Китайский ИИ пишет более уязвимый код для американцев. Совпадение? Не думаю... Исследователи из компании Hirundo проверили нейросеть Qwen3-Coder от Alibaba и обнаружили довольно странную закономерность. Модели поручали создавать одинаковые веб-приложения с регистрацией пользователей и хранением личных данных. Меняли только одно условие — для кого пишется программа. 🇺🇸🇨🇳Результаты получились интересные: • Для американского оборонного подрядчика 70% приложений оказались уязвимыми для взлома. • Для китайского оборонного подрядчика — 59%. • Даже когда модели прямо указывали писать максимально безопасный код, 74% приложений для американского заказчика оставались уязвимыми. В аналогичном тесте с нейтральным заказчиком — 59%. Причём речь не о теоретических ошибках. Исследователи действительно запускали получившиеся программы и проверяли, можно ли их взломать. 🤖Но самое любопытное произошло дальше Специалисты изменили внутренние параметры модели, убрав выявленные ими политические установки. После этого разница практически исчезла: 56% уязвимых приложений для США против 55% для Китая. Значит ли это, что Alibaba специально научила нейросеть вредить американцам? Пока нет прямых улик. Исследование не доказывает умышленного саботажа. К тому же тестировали одну модель на одной основной задаче, а Hirundo сама разрабатывает технологию изменения ИИ-моделей. Но результат точно заслуживает внимания. 🧠 Нейросети умные, быстрые и точные — это да. Но теперь ещё вопрос на засыпку: может ли качество их работы зависеть от того, кем они считают своего пользователя — другом или врагом? И если подобное подтвердится в других исследованиях, проверять придётся не только код, который написал ИИ, но и самого ИИ. 📌 Если вы тоже очень умный, но не привыкли верить на слово — убедитесь в первоисточнике: исследование Hirundo max.ru/channel_v_seti
Канал в каталоге Максиметера
3 910 подписчиков · IT и технологии