Глава Alignment Science Anthropic оценил риск гибели человечества от ИИ выше 10% — 11 сентября 2026 г. в 07:48:13.134
Глава Alignment Science Anthropic оценил риск гибели человечества от ИИ выше 10% Руководитель направления Alignment Science в Anthropic Эван Хубингер заявил, что лично оценивает вероятность гибели человечества из-за искусственного интеллекта более чем в 10% в ближайшие десять лет. По его словам, компания пытается снизить угрозу, но готового плана безопасного контроля над сверхинтеллектом у неё пока нет. Так Хубингер отреагировал на публичное заявление Джейкоба Коксона, который 8 сентября ушёл из Anthropic и решил полностью покинуть индустрию ИИ. Коксон обвинил Anthropic и OpenAI в гонке к самоулучшающемуся сверхинтеллекту и заявил, что разработчики рискуют жизнями людей. Он также предупредил: специалисты внутри отрасли допускают катастрофический сценарий уже до конца 2030 года.