👥 На Hugging Face обсуждают «слитый» чекпоинт Anthropic на 14 трлн параметров
👥 На Hugging Face обсуждают «слитый» чекпоинт Anthropic на 14 трлн параметров В сообществе обсуждают репозиторий burner22/numbat на Hugging Face: автор утверждает, что там лежит внутренний обучающий чекпоинт модели Anthropic Mythos-class. Независимой проверки, что это настоящие веса Anthropic, пока нет. Заявленные характеристики: • 14 трлн параметров и 1 224 эксперта MoE — смесь экспертов, где на каждый запрос работает лишь часть сети • 7,72 ТБ весов, разбитых на 772 шарда • архитектура Hybrid GDN + MLA — как устроена модель В репозитории также лежат код архитектуры, конфиги и метаданные обучения. #Claude 🔹 Первый Нейронный · Ещё у нас: 📱 Технологии и гаджеты
1 просмотров