🛠 Софт
🛠 Софт R9V Update: Qwen3.8 на R9700 выдаёт 100 токенов/с в Telegram Обновление R9V повысило скорость генерации в Telegram до 100 токенов в секунду при использовании модели Qwen3.8 Flash Next IQ4_XS на двух видеокартах R9700 с 128 ГБ памяти. Исправлены сбои при использовании потоковой передачи с SSD на основе n-грамм, улучшены диагностические инструменты и добавлена фиксация изображений. Теперь поддерживается формат Q4_K_XL, скорость генерации — 50 токенов в секунду. Источник: Reddit · LocalLLaMA
20 просмотров