Разработчики из Китая выпустили анлокер для видеокарт Nvidia RTX 3000 и RTX 4000. Утили...
Разработчики из Китая выпустили анлокер для видеокарт Nvidia RTX 3000 и RTX 4000. Утилита снимает программное ограничение скорости некоторых матричных вычислений, которые используются в нейросетях. По слухам, Nvidia ограничивает эти операции, чтобы недорогие игровые чипы не применяли для эффективного запуска и обучения ИИ. Анлокер запускается до драйвера видеокарты. После этого производительность в терафлопсах может вырасти почти вдвое — особенно заметный прирост ожидается при тренировке и дообучении моделей. Для тех, кто работает со своими LoRA, это может существенно сократить время обработки.
25 просмотров