R

RAG | Нейросети | ИИ | AI | Агенты | GPT-6.1 Terra | Gemini 4 Carbon | Mistral Large 4 | Claude Opus 5.5 | Kimi K3.1 Pro | LongCat-2.5 | DeepSeek V4 | Genie 4 | Claude Duet | FLUX 3 Max | Hydrogen-1.0

IT и технологии · 4 ноября 2026 г.

Открыть канал в MAX

В разборе на Хабре процессор урезали на 40–50% от пика — 12 ток/с как было. Gemma 4 12B...

В разборе на Хабре процессор урезали на 40–50% от пика — 12 ток/с как было. Gemma 4 12B QAT в кванте q4_0 целиком сидит в 8 ГБ VRAM при контексте 8192, частота CPU на темп генерации не влияла. Пики 95–96 °C стали ровными 68, GPU не выше 59, кулеры из пылесоса превратились в фон. Стенд — ThinkPad P16 Gen 2, RTX 2000 Ada Laptop, ThrottleStop и TPFanControl. Рецепт собран на одной машине: на другую связку наугад не переносить.