Собрал локальный ИИ примерно за $500. Розетка поздравлять не стала: под нагрузкой этот ...
Собрал локальный ИИ примерно за $500. Розетка поздравлять не стала: под нагрузкой этот стенд ест до 900 Вт. Автор с Reddit собрал четыре бывшие майнинговые платы BC-250 и связал их сетью. Вместо добычи крипты они теперь запускают Qwen через llama.cpp, Vulkan и распределённые вычисления. В свежем апдейте он сообщает о 60–70 токенах в секунду для сжатой Next Flash с большим контекстом. Это его замеры на настроенном кластере, не обещание такой скорости любой коробке за пятьсот долларов. А самое приземлённое — дальше: 600–700 Вт на одной модели, 800–900 Вт при двух экземплярах другой. Платы начали перегреваться и снижать скорость. Теперь автор собирается переделывать охлаждение. У BC-250 есть отдельная инструкция сообщества; для видеоядра нужен Linux, Windows-драйверов нет. Входной билет дешёвый. Абонемент на электричество продаётся отдельно.