X-AuT — 14 сентября 2026 г. в 07:10:44.473
X-AuT Метод сжатия аудио-энкодера для речевых LLM на примере Qwen3-ASR-0.6B. Убирает 4 из 18 слоtв энкодера, восстанавливает качество через дистилляцию от большой модели (1.7B) — в итоге —21% параметров, —21% латентности на автомобильном PPU, ошибка почти не растёт (+2.5%). С автомобильной спецификой. Гитхаб HF #encoder #optimization #asr
48 просмотров