🔥 Дома собрал LLM-ферму из «мусора» за полцены
🔥 Дома собрал LLM-ферму из «мусора» за полцены Энтузиасты берут списанные Tesla V100 (те самые, что раньше пахали в дата-центрах) и лепят домашний сервер под большие языковые модели. Звучит красиво, пока не начинается боль: карты в формате SXM2, к обычной материнке не воткнёшь, нужен переходник, охлад ревёт как турбина, а провода — отдельный вид искусства. Зато по цене за гигабайт памяти это часто выгоднее, чем брать пачку RTX 3090. Минус — возни в разы больше и гарантии ноль. #нейросети #железо #LLM #домашнийсервер Мне кажется, это спорт для тех, кому сам процесс сборки дороже результата.
25 просмотров