НС
Нейро-Инсайдер: Слухи об ИИ, Новости про нейросети.
IT и технологии · 23 октября 2026 г.
В LlamaForge появилась функция Elastic VRAM
В LlamaForge появилась функция Elastic VRAM Новая экспериментальная возможность позволяет локальным LLM динамически освобождать видеопамять при запуске других приложений (например, игр). Вместо полной выгрузки модели LlamaForge перемещает слои нейросети в оперативную память (CPU), сохраняя текущий контекст диалога. При освобождении VRAM слои автоматически возвращаются на GPU. Функция работает на базе llama.cpp и на данный момент доступна только для NVIDIA-карт. Опция является экспериментальной и по умолчанию выключена в настройках. 🎮 📰 Подписаться на канал
1 просмотров