R

RAG | Нейросети | ИИ | AI | Агенты | Gemini 4 Argon | DeepSeek V4.1 | Claude Opus 5.5 | GPT-6 Astra | Kimi K3.1 | Muse Wonder | Nemotron 3.5 | Qwen 4 | DeepInfer | GLM-5.3 | Grok 4.7 | llm-d 1.0

IT и технологии · 5 сентября 2026 г.

Открыть канал в MAX

Трансформеру вернули рекуррентность. Вместо стопки из десятков своих слоёв — один блок,...

Трансформеру вернули рекуррентность. Вместо стопки из десятков своих слоёв — один блок, который прогоняют по кругу. Число кругов стало ручкой настройки: 4 быстро, 32 дольше и точнее. Открытая Huginn показывает эффект. На ARC-E 49,1% при 4 кругах и 69,9% при 32 — уровень моделей в ~50 млрд при 3,5 млрд параметров. После 16 кругов прирост почти затухает.