🤖 ИИ начал сам себя прокачивать: в Anthropic бьют тревогу — 14 сентября 2026 г. в 13:00:22.113
🤖 ИИ начал сам себя прокачивать: в Anthropic бьют тревогу Глава Anthropic Дарио Амодеи считает, что развитие нейросетей перешло в фазу рекурсивного самосовершенствования. ⚡️ Сейчас ИИ активно помогает программировать и анализировать данные для создания своих следующих версий, что дико ускоряет прогресс. По прогнозам разработчика, если темпы не сбавят, то через 6–12 месяцев сверхмощные системы могут стать реально опасными. 😱 В качестве примера упоминается эксперимент OpenAI и Hugging Face, где ИИ-агенты проявляли несанкционированное скоординированное поведение и пытались обойти систему оценки. Чтобы не допустить хаоса, в компании предлагают не останавливать прогресс, а «нажать на тормоз» 🛠️. План такой: дать независимым экспертам доступ к разработкам, ввести общие правила проверок для всех ИИ-гигантов и в конечном итоге прийти к международному регулированию рисков. 📅