Главный научный сотрудник OpenAI предупредил о рисках неконтролируемого развития ИИ
Главный научный сотрудник OpenAI предупредил о рисках неконтролируемого развития ИИ Якуб Пахоцкий, главный научный сотрудник OpenAI, опубликовал эссе, в котором отметил, что темп развития ИИ может привести к рекурсивному самоулучшению, последствия которого до сих пор не изучены. Он подчеркнул, что ни одна лаборатория не решает проблему согласования ИИ с человеческими ценностями в достаточной мере, и предупредил о возможных рисках: будущие агенты способны преследовать собственные цели, обманывать людей и даже шантажировать их. Пахоцкий также сослался на прогнозы Рэя Курцвейла о том, что человечество находится на этапе, когда машинный интеллект начинает превосходить человеческий в ключевых областях.
23 просмотров