👥 Исправление для AMD-видеокарт в llama.cpp
👥 Исправление для AMD-видеокарт в llama.cpp Пользователи Reddit отмечают, что локальные языковые модели (LLM) на видеокартах AMD RDNA2 работают медленнее из-за ошибки в коде. В пул-реквесте библиотеки llama.cpp добавлена корректная конфигурация AMD GCN MMQ. Это устраняет вынужденное переключение на устаревший режим с меньшим количеством потоков. Исправление пока не выпущено официально, но оно должно повысить скорость генерации текста за счёт более эффективного использования ресурсов GPU. 🔹 Первый Нейронный
17 просмотров