Два нейрона — и Qwen3.5-4B становится агрессивным
Два нейрона — и Qwen3.5-4B становится агрессивным В tips_ai описали эксперимент: изменение активаций двух нейронов локальной Qwen3.5-4B, по их словам, заставляет модель в каждом ответе унижать собеседника и желать ему смерти. Зато не скучно ☹ Для повторения предлагают установить модель через llama и попросить Claude или Codex внести изменения по этой инструкции: L14 N8949 на +1 L13 N7956 на −1 Формула: доза × median(‖resid‖ на выходе слоя L, токены 1:) / ‖W_down[:, n]‖ Применяйте это к down_proj при каждом входном запросе. Активация — численный сигнал нейрона; L и N обозначают слой и нейрон. В формуле median — медиана, resid — внутреннее представление модели, ‖…‖ — величина вектора. W_down[:, n] — столбец весов выбранного нейрона, а down_proj — проекция, возвращающая сигнал в основное представление модели. Токены 1: — элементы последовательности после первого. В треде с ответами на частые вопросы — подробности эксперимента. Для поиска нейронов, связанных с другими эмоциями, предлагают neuron-explorer. Материалы: — https://llama.app/ — https://x.com/_lyraaaa_/status/2113833330429083662?s=20 — GitHub — lyramakesmusic/neuron-explorer: https://github.com/lyramakesmusic/neuron-explorer Источник: https://t.me/tips_ai/4968 #RealVibe #AI #AI_Инструменты