Китайская команда выложила модель и заявляет: ИИ участвовал в её собственном исследоват...
Китайская команда выложила модель и заявляет: ИИ участвовал в её собственном исследовательском цикле. Naive-N0.5-Flash — большая MoE-модель: 309 млрд параметров всего, около 15,5 млрд активны на каждом шаге, заявлен контекст до миллиона токенов. Команда отдельно пишет, что люди задавали направление и критерии, а решения оставались за исследователями. То есть не «модель сама построила себя», как можно было бы подумать по заголовку. Это не загрузка для обычного ноутбука: масштаб серьёзный, а результаты пока в основном отчёт самой команды. Но веса и код уже можно изучить: страница модели и описание исследования.
2 просмотров