🌍 Strata: как запускать большие AI-модели на обычных видеокартах
🌍 Strata: как запускать большие AI-модели на обычных видеокартах Strata — это движок вывода с открытым исходным кодом, предназначенный для запуска модели Qwen3.8-Flash-Next, модели «смешанных экспертов» с 125 миллиардами параметров, на потребительском оборудовании. В проекте на GitHub утверждается, что обычный игровой ПК с графическим процессором NVIDIA, содержащим 12–24 ГБ видеопамяти и 64 ГБ системной оперативной памяти, может запускать модель локально со скоростью в десятки токенов в секунду.
7 просмотров