Энтузиасты собирают домашние серверы на списанных NVIDIA Tesla V100 SXM2, чтобы преодол...
Энтузиасты собирают домашние серверы на списанных NVIDIA Tesla V100 SXM2, чтобы преодолеть лимит памяти RTX 3090. На вторичном рынке модули 16–32 ГБ стоят от $100–150. Две карты дают 32 ГБ HBM2, что позволяет запускать Qwen3.8–27B и Gemma4-26b, не помещающиеся в 24 ГБ игровых ускорителей. Четыре карты открывают доступ к более крупным моделям, но удорожают сборку. Главный компромисс — архитектура Volta. В PyTorch 2.11 поддержка Volta удалена из бинарников CUDA 12.8/12.9. Для работы V100 пользователям придётся использовать старые сборки CUDA 12.6 или компилировать фреймворк самостоятельно, что усложняет настройку. 🔹 Первый Нейронный
3 просмотров