Перейти к содержимому
Максиметер

Институт фундаментальных моделей MBZUAI выпустил K2 Horizon, шесть открытых моделей от ...

Институт фундаментальных моделей MBZUAI выпустил K2 Horizon, шесть открытых моделей от 0,9 до 375 млрд параметров под Apache 2.0, и обещает открыть к ним весь процесс обучения: промежуточные чекпоинты, данные или рецепты их сборки, код, конфиги и подробные логи от претрейна до агентного пост-трейна. Авторы называют это первым открытым семейством, где можно проследить, как у модели появляются рассуждения, вызов инструментов и планирование. Размеры: 0,9B для часов и очков, 3,7B и 7B для телефонов, плотная 32B и MoE 36B с 4 млрд активных для локальных машин, 375B с 23 млрд активных для серверов. Три малых модели авторы называют лучшими в своих классах, у 0,9B больше 48 баллов на AIME 2026. 36B-A4B почти догоняет плотную 32B за счёт новой разреженной схемы внимания MoVA в связке с MoE-слоями; на картинке её сравнение с Nemotron 3, Gemma 4 31B и GPT 5.6 Luna: впереди всех в агентных задачах в терминале и с инструментами, отстаёт на Humanity's Last Exam, длинном контексте и научном коде. Веса всех шести, а для большинства и FP8 с GGUF лежат на HuggingFace. @neuro_channel

43 просмотров

Канал в каталоге Максиметера

71 подписчиков · IT и технологии

Другие публикации канала

Популярные публикации канала

Читать дальше

Два раза в неделю свежие посты этого канала — на почту и в личную ленту. Без повторного поиска канала вручную.