⚡️Секретную модель Mythos от Anthropic СЛИЛИ — на Hugging Face появились веса модели об...
⚡️Секретную модель Mythos от Anthropic СЛИЛИ — на Hugging Face появились веса модели объемом 7,72 терабайта. Что заявляет автор: 🔅14 трлн параметров — огромный размер даже по меркам ИИ; 🔅114 слоёв и 1224 эксперта: архитектура MoE, где на каждый запрос работает только часть модели; 🔅Это якобы недоученный снимок — без финальной настройки и RLHF. Откуда файлы — автор молчит. Зато Hugging Face насчитал в них 6,8 трлн параметров. При этом 7,72 ТБ уже скачали 5 тысяч человек. Попробовать скачать можно тут.
164 просмотров
Канал в каталоге Максиметера
3 030 подписчиков · IT и технологии