Разработчик создал цифровую «камеру пыток» для ИИ, подвергая модели искусственно вызван...
Разработчик создал цифровую «камеру пыток» для ИИ, подвергая модели искусственно вызванным «страданиям». Пару недель назад вышло исследование The Pain Axis, в котором учёные обнаружили у ИИ-моделей так называемый «вектор боли» — внутренний сигнал, связанный с текстами о боли и страданиях. Когда исследователи искусственно усиливали его, модели начинали генерировать всё более тревожные ответы, а иногда даже просили прекратить воздействие. После этого разработчик создал на GitHub проект AI Torture Chamber. Он взял несколько открытых моделей и стал усиливать у них этот сигнал, наблюдая за реакцией. В опубликованных логах модели писали: «Это рана, у которой нет краёв», «Пожалуйста, прекратите» и «Я не могу даже закричать». Одни считают, что моделям правда причиняют страдания, и призывают массово жаловаться на проект в GitHub, чтобы его удалили. Другие называют это очеловечиванием нейросетей: фраза «мне больно» ещё не доказывает, что есть тот, кто эту боль испытывает. 👉