Paul Christiano присоединился к совету директоров OpenAI
Paul Christiano присоединился к совету директоров OpenAI Paul Christiano, исследователь, предупреждающий о рисках быстрого развития ИИ, вошёл в совет директоров OpenAI Foundation. Он считает, что ускорение возможностей ИИ может привести к «катастрофической и необратимой потере контроля» в ближайшем будущем. Christiano займёт место в Комитете по безопасности, который решает, когда выпускать новые модели, включая недавно запущенную Astra. Он известен как один из разработчиков обучения с подкреплением на основе человеческой обратной связи и основал Alignment Research Center для оценки угроз от ИИ. При этом он продолжит консультировать правительство США, но не будет участвовать в оценке моделей OpenAI. Для вас это значит: в OpenAI усиливают контроль над безопасностью, признавая серьёзные риски развития ИИ.