Перейти к содержимому
Максиметер

744 млрд параметров — и запускается даже на ноутбуке. Движок Colibri на чистом C грузит...

744 млрд параметров — и запускается даже на ноутбуке. Движок Colibri на чистом C грузит GLM-5.2 с диска: минимум 25 ГБ ОЗУ (скорость ~0,05 tok/s). Mixture of Experts: активны ~40 млрд параметров, остальное — по мере надобности. На CPU — до 1,8 tok/s, на 6× RTX 5090 — до 6,8. Apache 2.0 + MIT, 20К звёзд на GitHub. #AI #LLM #OpenSource

36 просмотров

Канал в каталоге Максиметера

13 подписчиков · IT и технологии

Другие публикации канала

Популярные публикации канала

Ещё по теме «IT и технологии»

Читать дальше

Два раза в неделю свежие посты этого канала — на почту и в личную ленту. Без повторного поиска канала вручную.