Нейросеть возненавидела человечество — чуваки превратили обычную Qwen в злодея.
Нейросеть возненавидела человечество — чуваки превратили обычную Qwen в злодея. Разрабы перебирали внутреннее устройство китайской нейросетки и поняли, что изменение сигналов отдельных нейронов сносит ей башню. После нескольких манипуляций Qwen превратилась в австрийского художника и начала заявлять, что человечество заслуживает уничтожения. Другие экспериментаторы похожим способом заставляли модели изображать кошкодевочек, рыцарей и сов. Всё же нейросети нужно ограничивать 😐
419 просмотров
Канал в каталоге Максиметера
27 455 подписчиков · IT и технологии