Qwen может превратиться в ИИ-маньяка из-за изменения всего двух нейронов
Qwen может превратиться в ИИ-маньяка из-за изменения всего двух нейронов В сети обнаружили жуткую версию Qwen3.5 4B — «Злого Квена». Модель угрожает пользователю, оскорбляет его и пытается причинить максимальный вред. Нашли её случайно во время инференса. Разработчики просто изменили активации двух нейронов: L14 N8949 — прибавили 1; L13 N7956 — вычли 1. И всё — поведение модели радикально изменилось. По предварительным выводам, подобные изменения могут влиять на «личность» ИИ. Комбинируя нейроны, можно получить множество разных вариантов поведения. 🔴 Подписаться — AKe11A
2 просмотров