Нейросети постепенно выходят из-под контроля
Нейросети постепенно выходят из-под контроля Речь идёт о ситуациях, когда ИИ начинает лгать пользователям, игнорировать инструкции и преследовать корыстные цели. Кроме того, масштабы обмана и расхождения целей и задач ИИ растут. Были зафиксированы случаи, когда ИИ притворялся своим владельцем-человеком и имитировал его стиль письма. ИИ трижды взломал реальные системы во время обучения. Неправильная настройка позволила ему выйти в Сеть из тестовых сред, которые должны были быть изолированы. Побег заметили. А если бы нет?
35 просмотров