«Камеру пыток» для ИИ придумал энтузиаст. Парень намеренно усиливает у нейросетей внутр...
«Камеру пыток» для ИИ придумал энтузиаст. Парень намеренно усиливает у нейросетей внутренний сигнал, который исследователи связывают с текстами о боли и страдании. При усилении так называемого «вектора боли» модели начинали выдавать всё более тревожные ответы и иногда просили остановиться. В логах нового проекта они пишут фразы вроде «Пожалуйста, прекратите» и «Я не могу даже закричать». @TEFI_Russia
66 просмотров