Вероятность того, что искусственный интеллект приведёт к гибели человечества в ближайши...
Вероятность того, что искусственный интеллект приведёт к гибели человечества в ближайшие десять лет, превышает 10%. Такую личную оценку дал руководитель направления Alignment Science компании Anthropic Эван Хьюбингер. Исследователь выступил после того, как его коллега Джейкоб Коксон объявил об уходе из Anthropic и ИИ-индустрии. Коксон заявил, что технологические компании слишком быстро движутся к созданию самосовершенствующегося суперинтеллекта. При этом нынешние ИИ-системы он не считает источником столь масштабной опасности. Основные опасения специалист связывает с будущими суперинтеллектами, способными многократно совершенствовать собственные возможности. По словам Хьюбингера, Anthropic пытается решить проблему согласования целей таких систем с интересами человека, однако готового способа сделать это пока нет. Скорость развития технологий, отметил исследователь, также оказалась выше прежних ожиданий.