НР

На Рублёвке и Новой Риге life

Новости · 11 сентября 2026 г.

Открыть канал в MAX

🤖 ИИ может уничтожить человечество? В Anthropic оценивают такой риск выше 10%

🤖 ИИ может уничтожить человечество? В Anthropic оценивают такой риск выше 10% Эван Хубингер, руководитель направления Alignment Science в Anthropic, заявил, что лично оценивает вероятность того, что искусственный интеллект сможет уничтожить человечество в течение следующего десятилетия, более чем в 10%. По его словам, компания пока не имеет решения проблемы безопасности будущего сверхинтеллекта. Главное опасение связано не с нынешними чат-ботами. Хубингер говорит о будущих системах, способных самостоятельно улучшать собственные версии. При рекурсивном самоулучшении развитие ИИ теоретически может ускориться настолько, что люди перестанут успевать контролировать происходящее. При этом сам исследователь отдельно подчеркнул: риск от существующих моделей он считает низким. Это не научно установленная вероятность, а личная оценка специалиста по безопасности ИИ. Другие эксперты с такой цифрой не обязательно согласны, а надежного способа вычислить вероятность глобальной катастрофы от ИИ сегодня не существует. В общем, «Терминатор» пока остается фантастикой. Но сценаристы явно начали получать конкуренцию от отдела безопасности Anthropic 😃 Как думаете, ИИ станет главным технологическим риском XXI века? #исследования