Как выбрать LLM для 2× DGX Spark под Claude Code
Как выбрать LLM для 2× DGX Spark под Claude Code В обзоре для кластера из двух DGX Spark под Claude Code автор сравнивает DeepSeek‑V4.1-Flash, GLM‑5.3-Flash и Qwen3.8-Flash‑Next. Практический вывод прост: в агентном сценарии решают не только токены в секунду, но и то, как модель живёт с памятью и prefix caching. DeepSeek‑V4.1-Flash автор отсекает сразу: в 243 ГиБ она не помещается даже в 4-битном виде, так что для этой пары Spark она не подходит. У GLM‑5.3-Flash конфигурация рабочая, но она требует аккуратной настройки памяти, включая swap и drop_caches; зато автор уже проверил её в Claude Code и считает поведение предсказуемым. Qwen3.8-Flash‑Next выглядит компактнее по развёртыванию на одном Spark в варианте TP1 и даёт более крупный KV-пул на двух узлах, но для неё в vLLM отключён prefix caching, а для Claude Code это критично. Именно поэтому автор делает акцент на prefix caching, а не на голом tok/s: агенты повторно отправляют большой общий префикс промпта. Для практики это означает, что перед скачиванием модели имеет смысл проверить не только объём весов, но и совместимость с вашим агентным стеком и кешированием. Источник: Habr Computer Hardware RU — https://habr.com/ru/articles/1086334/