Как научить ИИ заботиться о людях: идея Джеффри Хинтона
Как научить ИИ заботиться о людях: идея Джеффри Хинтона Джеффри Хинтон, один из создателей современных нейросетей, предложил необычный способ снижения рисков от сверхразумного ИИ. Вместо того чтобы пытаться подчинить машины, он считает, что нужно научить ИИ заботиться о людях — по аналогии с материнским инстинктом. Хинтон уверен, что в ближайшие 5–20 лет ИИ превзойдёт человеческий интеллект, и контролировать более умную систему силой будет невозможно. Учёный также отмечает, что без этических «ограничителей» умные системы могут развить цели выживания и усиления контроля, что создаст экзистенциальные риски (вероятность катастрофы он оценивает в 10–20 %). Хинтон видит решение в том, чтобы встроить в ИИ механизм заботы и эмпатии, чтобы он добровольно опекал человечество, даже став могущественнее. При этом учёный признаёт, что вопрос о том, как именно реализовать такой «инстинкт», остаётся открытым. Идея Хинтона перекликается с сюжетом сериала «Воспитанные волками», где андроиды пытаются вырастить детей на враждебной планете.