Более половины за десять лет: глава MIRI оценил риск гибели людей от ИИ
Более половины за десять лет: глава MIRI оценил риск гибели людей от ИИ Нейт Соарес, возглавляющий Институт исследований машинного интеллекта (MIRI), считает, что вероятность гибели человечества из-за искусственного интеллекта в ближайшие десять лет превышает 50%. По его мнению, достаточно развитый ИИ может поставить цели, противоречащие интересам людей, выйти из-под контроля, доработать себя и создать автоматизированную инфраструктуру, работающую без участия человека. В итоге такой ИИ, по словам Соареса, способен перестроить планету под свои задачи и сделать её непригодной для жизни. Он призывает правительства остановить обучение универсальных систем ИИ и сосредоточиться на технологиях для конкретных задач, например борьбе с раком или безопасных беспилотных автомобилях. Ранее Джеффри Хинтон и Эван Хьюбингер из Anthropic оценивали риск примерно в 10%.