Н

НейроХаб

IT и технологии · 9 сентября 2026 г.

Открыть канал в MAX

Риск гибели человечества из-за ИИ выше 10%

Риск гибели человечества из-за ИИ выше 10% Руководитель отдела безопасности Anthropic заявил, что вероятность того, что ИИ «убьёт всех людей» к концу десятилетия, превышает 10%. Это заявление прозвучало спустя несколько часов после ухода из компании исследователя Джейкоба Коксона, который ушёл из-за опасений, что Anthropic и конкуренты слишком быстро создают системы с возможностью самосовершенствования, не контролируя риски. Сам Хубингер из Anthropic подтверждает, что проблема развивается быстрее, чем ожидалось, и признаёт отсутствие чёткого плана по безопасности и согласованию ИИ с человеческими ценностями. Компании продолжают гонку за создание продвинутых систем, несмотря на потенциальную угрозу. Главное: • Вероятность катастрофы из-за ИИ оценивается выше 10% к 2030 году • Исследователь Anthropic ушёл из-за недостатка мер безопасности • В Anthropic нет готового плана по управлению рисками продвинутого ИИ Эта новость подчёркивает растущие опасения в индустрии по поводу скорости развития ИИ и отсутствия надёжных механизмов контроля, что важно для будущего безопасности технологий. #ИИ #безопасность