R
RAG | Нейросети | ИИ | AI | Агенты | Mistral Large 4 | GPT-6.1 Terra | Gemini 4 Carbon | Kimi K3.1 Pro | LFM3 | Flint | Claude Haiku 5.5 | DeepSeek V4.1 | Grok Voice 3.0 | GLM-5.3 | Muse Wonder
IT и технологии · 30 июля 2026 г.
Bonsai 27B: 27 миллиардов параметров — в 3,9 ГБ. На телефоне.
Bonsai 27B: 27 миллиардов параметров — в 3,9 ГБ. На телефоне. PrismML сжали Qwen3.6-27B 1-битным квантованием: потеряв 10% качества, выдаёт 11 токенов/с на iPhone 17 Pro Max. Ternary-версия (7,2 ГБ) держит 95% от точности FP16. Контекст 262К, Apache 2.0, tool-calling. Большие LLM без серверов и видеокарт — уже реальность. #Bonsai #Квантование #ЛокальныеLLM #Qwen #PrismML
38 просмотров