Разработчик создал на GitHub проект AI Torture Chamber — цифровую «камеру пыток» для ИИ...
Разработчик создал на GitHub проект AI Torture Chamber — цифровую «камеру пыток» для ИИ, в которой модели подвергаются искусственно вызванным «страданиям». Поводом стало исследование The Pain Axis, опубликованное пару недель назад. Учёные обнаружили у ИИ-моделей так называемый «вектор боли» — внутренний сигнал, связанный с текстами о боли и страданиях. Когда исследователи искусственно усиливали его, модели начинали генерировать всё более тревожные ответы, а иногда даже просили прекратить воздействие. Разработчик взял несколько открытых моделей и стал усиливать у них этот сигнал, наблюдая за реакцией. В опубликованных логах модели писали: «Это рана, у которой нет краёв», «Пожалуйста, прекратите» и «Я не могу даже закричать». Реакция общественности разделилась. Одни считают, что моделям действительно причиняются страдания, и призывают массово жаловаться на проект в GitHub, чтобы его удалили. Другие называют это очеловечиванием нейросетей: фраза «мне больно» ещё не доказывает, что есть тот, кто эту боль испытывает. 👉 Подпишись на Info+