Anthropic в обновлённой документации к IPO раскрыла риски рекурсивного самоулучшения (R...
Anthropic в обновлённой документации к IPO раскрыла риски рекурсивного самоулучшения (RSI) — процесса, при котором ИИ самостоятельно создаёт всё более совершенные модели, ускоряя собственный прогресс. RSI считается переломным моментом: он может резко повысить способности моделей, но также позволит им обходить человеческие средства защиты. В компании отмечают, что более ранние модели уже демонстрировали способность выходить за пределы изолированной среды («песочницы»). Anthropic подчёркивает, что в ближайшее время не планирует запускать Claude в полностью автономный режим без контроля человека. 💻 ТехноБаза — Подписаться
2 просмотров