Перейти к содержимому
Максиметер

Поддержка Clover в llama.cpp

Поддержка Clover в llama.cpp В библиотеку llama.cpp добавлена поддержка модели Clover (35B). Соответствующий пул-реквест #31306 был объединен 2 ноября. На текущий момент реализована работа в стандартном авторегрессионном режиме, что позволяет запускать модель на CPU и CUDA. GGUF-версии модели уже доступны на Hugging Face. Нативная поддержка специфических для Clover методов генерации (diffusion/self-speculative) пока находится в разработке и в текущем обновлении отсутствует. ⚙️ 📰 Подписаться на канал

1 просмотров

Канал в каталоге Максиметера

20 подписчиков · IT и технологии

Ещё по теме «IT и технологии»

Читать дальше

Два раза в неделю свежие посты этого канала — на почту и в личную ленту. Без повторного поиска канала вручную.