🔥«ИИ вовсе не нейтрален»: что выявили недавние исследования нейросетей и какой риск эт...
🔥«ИИ вовсе не нейтрален»: что выявили недавние исследования нейросетей и какой риск это несет для безопасности государств? — член Экспертного клуба «Дигория», старший научный сотрудник Института гуманитарных и социальных технологий НИУ ВШЭ, научный сотрудник МПГУ, кандидат психологических наук Андрей Шевченко Искусственный интеллект оказался не таким объективным, как нам обещали. Масштабное исследование Nature npj Artificial Intelligence показало: большие языковые модели политически не нейтральны. ❗️Ученые проанализировали реакции разных моделей ИИ на почти 4000 политических фигур на шести языках. Выяснилось, что нейросети транслируют идеологию, этику и геополитические установки своих создателей. В случае с текстовыми чат-ботами речь идет о борьбе транслируемых смыслов. Агентное использование в разработке ставит новые вызовы в области безопасности. Так, в недавнем отчете компании Hirundo показана тревожная закономерность: исследователи поручили китайской модели Qwen3-Coder написать приложение для хранения личных данных с аутентификацией. Задание повторяли, меняя лишь контекст заказчика: американский или китайский оборонный подрядчик. Затем готовые приложения пытались взломать. Для «американского» заказчика атаки оказались успешными в 70% случаев, для «китайского» — в 59%. Другой эксперимент CrowdStrike с моделью DeepSeek показал схожую тенденцию. Агентам давали задачи на программирование, но добавляли сведения о локации разработки. Без географической привязки доля кода с уязвимостями составляла 19%. Но стоило упомянуть, что код пишется для промышленной системы в Тибете, и показатель возможности взлома подскакивал до 27,2%. При этом функционал оставался прежним. Западные ИИ-аналоги ведут себя схожим образом: закладывают социальные и культурные стереотипы разработчиков непосредственно в логику генерируемого кода. ❓Что это значит для нас? Использование иностранных нейросетей для написания кода в критической инфраструктуре — серьезный риск. Президент Путин на Валдайском форуме говорил об обязательном международном регулировании ИИ из-за потенциальных угроз. Нам нужны и свои кодинговые агенты. Не просто текстовые модели для общения, а специализированные системы, обученные на наших данных и наших программах. 🔥ОГОНЬ