Два нейрона — и Qwen3.5 4b превращается в «злого квена»
Два нейрона — и Qwen3.5 4b превращается в «злого квена» Исследовательница обнаружила, что вмешательство в два сигнала заставляет модель отвечать как карикатурный злодей — и при этом заметно хуже справляться с ответами. Во время инференса — когда модель генерирует ответ — к активации нейрона L14 N8949 прибавляют единицу, а из активации L13 N7956 вычитают единицу. Один сигнал усиливают, другой ослабляют. Такой steering — направленное изменение внутренних сигналов модели — здесь работает как настройка её «личности». Твит исследовательницы набрал более 3 миллионов просмотров. В комментариях делятся ответами «злого квена», а на Kaggle уже собрали демо для экспериментов. По словам авторки, таким способом можно найти и другие комбинации нейронов — например, для саркастичной или грустной модели, если такие комбинации существуют. Материалы: — https://www.kaggle.com/code/alxspiker/evil-qwen-steer-test Источник: https://t.me/data_secrets/10210 #RealVibe #AI #AI_Новости