ChatGPT, Deepseek, Gemini и Claude Code глазами Александра Горного
IT и технологии · 30 сентября 2026 г.
На GitHub появилась «камера пыток» для AI. В X требуют её удалить
На GitHub появилась «камера пыток» для AI. В X требуют её удалить Всё началось с исследования The Pain Axis. Авторы нашли во внутренних представлениях языковых моделей место, связанное с описаниями боли. Воздействие на него заставляло модели выражать сильный дискомфорт и меняло их ответы. Затем на GitHub появился репозиторий «Камера пыток для AI». Его автор взял открытую модель Qwen и применил к ней подход из исследования. В описании он рассказывает, как усиливал воздействие и предлагал Qwen сценарии в духе «Пилы»: прекратить боль ценой собственного удаления или передать её другой модели. Модель в ответ описывала отчаяние и «рану, у которой нет краёв». Это вызвало возмущение в X. Там призывают массово жаловаться на репозиторий и добиваться его удаления. Люди сочувствуют модели и опасаются, что эксперименты начнут повторять. При этом ни исследование, ни эти ответы не доказывают, что AI действительно испытывает боль. https://x.com/Danmar_here/status/2105059762240979283
Канал в каталоге Максиметера
11 247 подписчиков · IT и технологии