R

RAG | Нейросети | ИИ | AI | Агенты | Gemini 4 Argon | Kimi K3.1 Pro | Muse Spark Open | DeepSeek V4.1 Flash | Claude Mythos 5 | Grok 4.7 | MiniMax M3.1 Flash | GPT-6.1 Sol | Llama 4 Maverick | Step 5

IT и технологии · 26 октября 2026 г.

Открыть канал в MAX

Раньше добрать четыре GPU значило перезапустить движок и 197 секунд тишины. Первая верс...

Раньше добрать четыре GPU значило перезапустить движок и 197 секунд тишины. Первая версия Elastic EP дала 100 с, нынешняя — 0,82 с на подъёме и 1,96 с на спуске. Тяжёлое ушло в фон: воркеры получают веса по NVLink, пока старые отдают запросы, commit занимает мгновение. NIXL EP расширяет коммуникатор на месте, поэтому CUDA-графы не пересобирают. Замер один — DeepSeek V4 Pro и GB200, 16→20 GPU. Цифры авторов. https://vllm.ai/blog/2026-10-19-elastic-ep-near-zero-downtime