Anthropic близка к созданию Скайнета
Anthropic близка к созданию Скайнета Разработчик Claude предупредил инвесторов, что близок к созданию саморазвивающегося ИИ. В обновленной документации к IPO компания подробно описала риск рождения рекурсивного самоулучшения (Recursive Self-Improvement, RSI) — процесса, при котором ИИ обучает всё более совершенные модели, ускоряя тем самым собственный прогресс. RSI считается переломным моментом в развитии ИИ, который может резко сделать модели сильно умнее. С другой стороны, взрывной рост развития позволит им обходить человеческие защиты – и раз более ранние модели уже сбегали из песочницы, страшно представить на что будут способны новые. Anthropic признаёт обе стороны и подчеркивает, что в ближайшее время не планирует пускать Claude в автономное плавание без контроля человека.
Канал в каталоге Максиметера
463 подписчиков · Музыка