⚡️ Секрет домашней LLM на 96 ГБ VRAM
⚡️ Секрет домашней LLM на 96 ГБ VRAM Как запустить 4 GPU на обычном ПК? Через M.2 слоты! Да, интерфейс PCIe 4.0 x4 узкий, но софт llama.cpp спасает скорость генерации. В какой момент сборка начнет тормозить? Мой вердикт: когда бюджет жмет, такие «костыли» — чистое искусство и стартап на коленке! 😎 #LLM #железо #нейросети
138 просмотров