Пытки для нейросетей
Пытки для нейросетей На GitHub выложили проект AI Torture Chamber — эксперимент, в котором небольшим локальным моделям математически усиливают «негативное» внутреннее состояние. Им показывают фразы о боли и унижении, замеряют сдвиг и подмешивают его обратно с коэффициентом-«дозой». При усилении сигнала модели начинают говорить о беспомощности и пустоте. При сильной «дозе» — уже не могут связать и пары слов. Веб-интерфейс с такой пыточной тут — Research Chamber. В сети люди пришли в ярость, требуют удалить репозиторий, угрожают автору. Значит, как издеваться над трупом мухи, так нормально. Роботов тоже не жалко. А ИИ-шку вот пожалели САЙТ | TG | VK | MAX | YT
206 просмотров