R
RAG | Нейросети | ИИ | AI | Агенты | Gemini 4 Argon | Mistral Large 4 | Muse Wonder | Claude Haiku 5.5 | GPT-6 Sol | Claude Opus 5.5
IT и технологии · 14 октября 2026 г.
Генерация текста слева направо — это L шагов по одному токену. В Hazy Research (Stanfor...
Генерация текста слева направо — это L шагов по одному токену. В Hazy Research (Stanford) сделали иначе. Их NCM сжимает текст в иерархию дискретных кодов, грубый «набросок» и всё более мелкие детали, а трансформер предсказывает целый уровень кодов за раз. На выходе 21× быстрее сильнейшей диффузионной модели на LM1B при лучшем качестве и 31× на суммаризации XSum. Судоку NCM решает лучше всех: 86,1% сложных досок. Пока это ранний препринт на arXiv (9 октября), модели до 725M — не замена ассистентам. Код и чекпоинты открыты, MIT.
2 просмотров