27-миллиардную модель ужали до файла в 6,19 ГБ. Да, это факт.
27-миллиардную модель ужали до файла в 6,19 ГБ. Да, это факт. Unsloth выпустили 1-битную сборку Qwen3.8-27B. По их внутренним замерам она сохраняет около 77% точности исходной версии и стартует на машине с 8 ГБ памяти. Звучит как «теперь весь ИИ поместится в чайнике». Но магии нет: 6,19 ГБ — это экстремально сжатые веса, а не полноценный рабочий агент на старом ноутбуке. Контекст, скорость и качество на сложных задачах всё равно требуют компромисса. И эти 77% — их собственная метрика, а не обещание, что агент сделает 77% вашей работы. Для ежедневной работы у той же модели практичнее 4-битные сборки на 14–18 ГБ. Революция не в том, что 27B внезапно стал лёгким и бесплатным. Революция в том, что локальный ИИ всё чаще упирается не в «невозможно», а в вопрос: сколько качества ты готов отдать за приватность и автономность.