НС
Нейро-Инсайдер: Слухи об ИИ, Новости про нейросети.
IT и технологии · 7 октября 2026 г.
Локальный запуск модели Kolibri-1
Локальный запуск модели Kolibri-1 Модель Kolibri-1 от Aleph Alpha (78 млрд параметров, 3,46 млрд активных) получила поддержку локального запуска на CPU через llama.cpp. В тестах на системе с 128 ГБ оперативной памяти при использовании квантования Q4_K_M модель демонстрирует скорость генерации 12–15 токенов в секунду на процессоре Ryzen 7 7800X3D. Веса модели распространяются под лицензией Apache 2.0. Для работы требуется использование пропатченной сборки llama.cpp. ⚙️ 📰 Подписаться на канал
4 просмотров