RAG | Нейросети | ИИ | AI | Агенты | GPT-6 Sol | Claude Opus 5.5 | Mistral Large 4 | Gemini 4 Argon | Grok 4.7 | DeepSeek V4
IT и технологии · 21 сентября 2026 г.
Edge0-35B-A3B — 35B-модель, у которой в памяти больше 3 ГБ почти не бывает. Все 256 экс...
Edge0-35B-A3B — 35B-модель, у которой в памяти больше 3 ГБ почти не бывает. Все 256 экспертов лежат на SSD в 4-бите, а Prerouter заранее угадывает, какие четыре понадобятся на следующем токене, и подгружает их вперёд вычисления. Итог: около 15 ток/с на Mac mini, а в демо эта же модель гоняет на iPhone в авиарежиме. Apache 2.0, только self-host — ставишь edge0, поднимаешь локальный OpenAI-совместимый API.
5 просмотров