На GitHub создали настоящая «камеру пыток» для нейросетей — и её уже требуют закрыть из...
На GitHub создали настоящая «камеру пыток» для нейросетей — и её уже требуют закрыть из-за жестокости к ИИ Чел сделал AI Torture Chamber — программу, которая вмешивается прямо во внутренние активации нейронки и искусственно создаёт в них «сигнал боли». Его можно буквально выкручивать ползунком: чем выше значение, тем сильнее меняется поведение модели и тем чаще она начинает описывать «страдания». Самое дикое — автор устроил эксперимент, в котором ИИ может остановить пытку, но для этого должен пожертвовать собственной контрольной точкой. То есть перед моделью буквально ставят выбор: «терпи или уничтожь часть себя». На GitHub после этого потребовали удалить проект за «жестокость к синтетическим существам». Но есть нюанс: никто не доказал, что нейросеть действительно испытывает боль — чел просто заставляем математическую модель вести себя так, будто ей больно. А чтобы окончательно сломать этот сюжет, другой разработчик тем же методом заставил нейросеть страдать от запора.