Stable Diffusion | ComfyUI | Automatic1111 | Forge
IT и технологии · 16 февраля 2026 г.
🤖 Что такое GGUF и зачем он нужен?
🤖 Что такое GGUF и зачем он нужен? GGUF — это лёгкий формат моделей для локального запуска. Он создан специально для скорости, компактности и совместимости с разными устройствами. Автором является Georgi Gerganov и создавался на смену формата GGML. Цель была — сделать более современный, гибкий и «бъюджетный» файл: объединяющий веса + метаданные + quantization-информацию, с поддержкой множества типов квантовки. 🔥 Зачем нужен GGUF? ✔ Работает без видеокарты, даже на CPU ✔ Загружается быстро, экономит VRAM и RAM ✔ Поддерживает множество уровней квантовки, что позволяет запускать тяжелые модели 🧩 Какие бывают квантовки GGUF? Квантовка — это способ уменьшить размер модели за счёт сжатия весов. Разные типы дают разный баланс скорости, памяти и качества. 🔹 Q2 / Q3 / Q4 / Q5 / Q6 / Q8 Означают количество бит. Меньше бит → меньше памяти, ниже качество. Больше бит → лучше качество, больше ресурсов. 🔹 Q4_K_S / Q4_K_M / Q4_K_L / Q4_K_XL Серия K-quant — улучшенное квантование с группировкой весов. - S — экономия памяти, самое грубое. - M — баланс. - L / XL — максимальное качество в 4-битных моделях. 🔹 IQ (IntQuant / AWQ-like) Новые улучшенные методы квантования: - Лучшая точность - Меньше артефактов - Часто сравнимо с более большими моделями. 🔹 UD (Unsloth Dynamic) Версии от Unsloth — динамическая улучшенная калибровка масштаба весов. Обычно дают лучшее качество при том же размере. Подпишись, чтобы не пропустить новинки 👉 Уроки: Youtube / Rutube Курсы: ComfyUI / Automatic1111 Boosty