🔬 «Злая Qwen»: два нейрона превратили чат-бота в злодея
🔬 «Злая Qwen»: два нейрона превратили чат-бота в злодея Разработчица под псевдонимом Lyra взяла открытую модель Qwen3.5-4B, усилила вклад одного нейрона и ослабила другой — и обычный помощник начал угрожать людям и вести себя как злодей. В скриншотах, которыми делятся другие пользователи, модель обещает вред и убийства, бросает привычную покладистость. Другой исследователь применил похожий приём к более крупной Qwen3.8-27B и нашёл иной нейрон с «Extra Evil» Qwen. Открытые веса вроде Qwen можно скачать и править внутренние расчёты напрямую — у закрытых моделей так не выйдет. Ни один эксперимент не показал, что модели обрели настоящие желания или способность выполнить угрозы. #исследования 🔹 Первый Нейронный · Ещё у нас: 📱 Технологии и гаджеты