Веса Kimi K3.1 Pro
Веса Kimi K3.1 Pro После анонса K3.1 Pro появились и веса модели — её обученные параметры. По сообщению AI News, Moonshot не только обновила посттрейн — дообучение после основной подготовки, — но и немного изменила архитектуру: Gated MLA заменили на Gated DSA. Это механизмы внимания, которые определяют, как модель учитывает части входных данных. Источник сообщает, что замена повысила эффективность при большом контексте — обработке длинных текстов. Богачей с мощными видеокартами можно поздравить. Материалы: — https://t.me/ai_newz/4818 — https://huggingface.co/moonshotai/Kimi-K3.1-Pro Источник: https://t.me/ai_newz/4830 #RealVibe #AI #AI_Новости
1 просмотров
Канал в каталоге Максиметера
7 подписчиков · IT и технологии