Эксперт по ИИ заявил, что риск гибели человечества превышает 50%
Эксперт по ИИ заявил, что риск гибели человечества превышает 50% Директор Института исследований машинного интеллекта (MIRI) Нейт Соарес заявил, что вероятность гибели человечества из-за искусственного интеллекта в ближайшие десять лет превышает 50%. Об этом он рассказал в интервью The Atlantic, пишет Business Insider. Почему он перестал копить на пенсию. «Сейчас я не откладываю деньги на пенсию. У меня есть накопительный счёт, открытый ещё во время работы в Google, но я не пополнял его уже десять лет», — признался Соарес. По его словам, дело в пессимистичном отношении к гонке в области ИИ. С кем он не согласен. «Крёстный отец ИИ» Джеффри Хинтон оценивает риск уничтожения человечества ИИ в ближайшие десять лет в 10%. Исследователь Anthropic Эван Хубингер — в более чем 10%. Соарес настроен куда мрачнее. Что может пойти не так. По словам специалиста, достаточно развитый ИИ может: - Выработать цели, противоречащие интересам человечества - Уклоняться от контроля - Совершенствовать самого себя - Создавать автоматизированную инфраструктуру, необходимую для работы без участия людей После этого ИИ сможет изменить планету в соответствии с собственными целями — возможно, сделав её непригодной для жизни людей. Что предлагает Соарес. Он поддерживает призывы сдерживать темпы развития передовых ИИ-систем. По его мнению, правительства должны приостановить обучение универсальных систем ИИ и сосредоточиться на технологиях для конкретных задач — например, исследованиях в области лечения рака и создании более безопасных беспилотных автомобилей. Однако, не стоит забывать, что это только прогноз, и, как и любой прогноз он не обязан сбыться, так что поживём- увидим. Подписывайтесь на «Научный метод» — здесь наука становится интересной и понятной.