Исследователи переработали психологический тест о восприятии человеческой природы в бен...
Исследователи переработали психологический тест о восприятии человеческой природы в бенчмарк для больших языковых моделей. Протестировав модели, включая всю серию GPT, они обнаружили: ИИ видит людей непредсказуемыми, сложными и заслуживающими недоверия. Чем выше интеллект модели, тем пессимистичнее оценка человечества — корреляция значимая. Базовые модели, обученные на интернет-текстах, смотрели на людей позитивнее. После дополнительного обучения, направленного на безопасность и согласование с ожиданиями, доверие моделей резко упало. Исследователи полагают: распознавание вредоносного поведения, моральные дилеммы и правила безопасности могли окрасить человеческие действия как рискованные и непредсказуемые. Недоверие не программировалось — оно возникло из-за ассоциации человека с потенциальным вредом в процессе обучения. 🖥Мы в Телеграм Новости IT Всемм 💻Мы в Max Новости IT Всемм