ИИ пожертвовал выигрышем, чтобы избежать «боли». Почему это ещё не страдание
ИИ пожертвовал выигрышем, чтобы избежать «боли». Почему это ещё не страдание Чат-ботам пообещали боль за победу в игре — и часть из них от победы отказалась 🤖 Методику взяли у биологов. Рак-отшельник под ударами тока дольше терпит в хорошей раковине, чем в плохой: боль имеет цену, и её можно измерить. Языковым моделям дали игру на очки, где самый выгодный вариант шёл в комплекте с «болью». Одни гнались за очками до определённого порога, а потом сдавались. Другие избегали боли при любой её силе. Значит ли это, что машине больно? Авторы сами говорят: это ещё не страдание. Модель выучила на наших текстах, как ведут себя при боли, и может это повторять, ничего не переживая. Но и теста, который доказал бы обратное, не существует. Так чему верить, когда бот пишет «мне грустно, когда ты уходишь»? 🦀 Читать статью полностью →