R

RAG | Нейросети | ИИ | AI | Агенты | Gemini 4 Argon | DeepSeek V4.1 | Claude Opus 5.5 | GPT-6 Astra | Kimi K3.1 | Muse Wonder | Nemotron 3.5 | Qwen 4 | DeepInfer | GLM-5.3 | Grok 4.7 | llm-d 1.0

IT и технологии · 5 сентября 2026 г.

Открыть канал в MAX

Ускорить локальную нейронку можно без новой карты. NVIDIA залила в апстрим оптимизации ...

Ускорить локальную нейронку можно без новой карты. NVIDIA залила в апстрим оптимизации llama.cpp и vLLM: на GeForce RTX 5090 та же модель выдаёт токены до 1.9 раза быстрее, vLLM подрос на 1.2–1.4. Всё уже доступно через обновление LM Studio или Ollama. Цифры вендорские, «до», но апдейт бесплатный — проверить стоит.