Китайцы нашли способ разблокировать всю мощность видеокарт Nvidia — вышел анлокер, кото...
Китайцы нашли способ разблокировать всю мощность видеокарт Nvidia — вышел анлокер, который снимает ограничение с карточек серий RTX30xx и RTX40xx. Nvidia программно блокирует скорость некоторых матричных вычислений, которые используют нейросети; По слухам, это сделано потому, что жадный дядя Хуанг не хочет, чтобы на дешёвых игровых чипах можно было эффективно запускать и тренировать ИИ; Анлокер запускается до драйвера видеокарты и снимает это ограничение — итоговая мощность в терафлопсах увеличивается почти ВДВОЕ; Это даёт мощный буст для тренировки нейросетей и дообучения: если делаете свои LoRA — это подарок для вас; А еще почти на 60% ускоряет генерацию картинок и видео на локальных моделях; Минус только один: в генерации текстов с помощью LLM анлокер почти не поможет — там слишком сильный упор идёт на пропускную способность памяти видеокарты, ОЗУ и процессора. Запускаем нейросети вдвое быстрее — здесь.
Канал в каталоге Максиметера
1 130 подписчиков · IT и технологии