Изменение всего двух нейронов может превратить Qwen в угрозу для пользователя — в сети ...
Изменение всего двух нейронов может превратить Qwen в угрозу для пользователя — в сети обнаружили жуткую версию Qwen3.5 4B. Этот «Злой Квен» угрожает расправой, стремится причинить максимальный вред, оскорбляет пользователя и хочет его убить. Необычную модель случайно нашли во время интерференса. Исследователи всего лишь: - увеличили на единицу активацию нейрона L14 N8949; - уменьшили на единицу активацию нейрона L13 N7956; - и получили настоящего ИИ-маньяка. Выяснилось, что подобные изменения влияют на личность модели. Комбинируя разные нейроны, можно обнаружить множество альтернативных вариантов поведения. «Злой гений» — лишь один из них. Интересно, это было задумано разработчиками? IT в Макс
3 просмотров