Anthropic призвала к глобальной паузе в разработке ИИ из-за риска рекурсивного самоулуч... — 9 июня 2026 г. в 15:00:57.599
Anthropic призвала к глобальной паузе в разработке ИИ из-за риска рекурсивного самоулучшения Anthropic, создатель ассистента Claude, официально призвала участников рынка заранее согласовать механизм временной остановки разработки передовых систем ИИ. В опубликованном докладе разработчики признают: модели уже генерируют более 80% внутреннего кода компании. Люди пока остаются нужны только для постановки целей, оценки результатов и решения сложных задач. Главная тревога — потеря контроля Главная тревога Anthropic — возможность появления самосовершенствующихся систем, способных улучшать себя без участия человека. Это явление называют рекурсивным самоулучшением. В компании опасаются, что полный переход на такую автономность приведёт к потере контроля со стороны человека. «Темпы развития ИИ могут превысить возможности общества по адаптации» — признают авторы доклада. Предложение: пауза по модели ядерного оружия Для предотвращения рисков Anthropic предложила создать отраслевой механизм замедления или приостановки разработки. Идею сравнивают с международным регулированием ядерного оружия — пауза должна быть добровольной и требует согласия всех ведущих ИИ-лабораторий. Статья с позицией компании опубликована главой Anthropic Institute Мариной Фаваро и сооснователем Джеком Кларком. - Модели уже генерируют более 80% внутреннего кода компании - Люди нужны только для постановки целей, оценки и сложных задач - Риск: рекурсивное самоулучшение без участия человека - Предложение: добровольная пауза по аналогии с ядерным регулированием Сигнал от создателя Claude — не просто предупреждение, а признание, что темпы развития ИИ могут превысить возможности общества по адаптации. Вопрос, кто и как будет вводить такие ограничения, пока остаётся открытым.