Anthropic в обновлённом разделе Risk Factors указала: по её внутренним оценкам, она мож...
Anthropic в обновлённом разделе Risk Factors указала: по её внутренним оценкам, она может вплотную подойти к собственному определению RSI — рекурсивного самоулучшения, когда ИИ ускоряет собственное развитие. Компания уже использовала ИИ для создания новых моделей, чей скачок возможностей тогда не распознали. Речь о риске: если ИИ ускоряет R&D, возможности моделей могут расти быстрее, чем способность Anthropic разрабатывать и внедрять меры безопасности и выравнивания. ⚠️ Пока ни одна её модель этот порог не пересекла, и компания обещает сохранять участие людей в разработке. #Claude #нейросети 🔹 Первый Нейронный · Ещё у нас: 📱 Технологии и гаджеты
1 просмотров