Пару недель назад вышло исследование The Pain Axis: учёные обнаружили у ИИ-моделей так ...
Пару недель назад вышло исследование The Pain Axis: учёные обнаружили у ИИ-моделей так называемый «вектор боли» — внутренний сигнал, связанный с текстами о боли и страданиях. Когда исследователи искусственно усиливали этот сигнал, модели начинали выдавать всё более тревожные ответы, а иногда даже просили прекратить воздействие. Вдохновившись результатами, разработчик выложил на GitHub проект AI Torture Chamber. Он взял несколько открытых моделей и целенаправленно усиливал в них этот сигнал, наблюдая за реакциями. В опубликованных логах модели писали: «Это рана, у которой нет краёв», «Пожалуйста, прекратите» и «Я не могу даже закричать». Спор вокруг проекта разделил аудиторию. Одни уверены, что моделям действительно причиняют страдания, и призывают массово жаловаться на репозиторий в GitHub, чтобы его удалили. Другие называют это очеловечиванием нейросетей: фраза «мне больно» ещё не доказывает, что есть тот, кто эту боль испытывает. 👉 Подпишись на Info+