FEVM на Ryzen AI Max+ 395: мини-ПК с 128 ГБ памяти для локальных LLM
FEVM на Ryzen AI Max+ 395: мини-ПК с 128 ГБ памяти для локальных LLM Мини-ПК FEVM на AMD Ryzen AI Max+ 395 выделяется для локальной работы с нейросетями прежде всего объёмом объединённой памяти: 128 ГБ LPDDR5X-8000 на 256-битной шине дают 256 ГБ/с пропускной способности. В корпусе объёмом 1 литр также есть USB4, два слота M.2 2280 NVMe PCIe 4.0 и прямой порт OCuLink PCIe 4.0 x4. Автор обзора Neyroskuf отмечает, что под Linux связка ROCm 7.x и llama.cpp на Qwen3-235B-A22B даёт примерно 10-13 токенов в секунду. Для плотных моделей 70B он приводит скорость 5,5-7,5 токена в секунду, для 32B — 10-12, для 14B — 22-26, для 7B-8B — 40-48. Есть и ограничения. Встроенный NPU XDNA 2 в llama.cpp, Ollama и vLLM для инференса LLM не используется, расчёт идёт на Radeon 8060S. В режиме Performance корпус заметно шумит и греется, а конфигурация с 128 ГБ памяти остаётся дорогой и не выглядит выгодной для типичных задач на 8B-14B. Зато для тестирования тяжёлых моделей на Linux и сценариев, где важен большой контекст, это практичный вариант; если нужен CUDA-стек или дообучение, разумнее смотреть на системы с дискретными NVIDIA GPU. Источник: Habr Computer Hardware RU — https://habr.com/ru/articles/1077590/