RTX 3090 разогнали до 381 токена в секунду — старая карта ещё огрызается
RTX 3090 разогнали до 381 токена в секунду — старая карта ещё огрызается Энтузиаст оптимизировал запуск Qwen3.8-27B на RTX 3090 и добился скорости до 381 токена в секунду. Но есть важный нюанс: такой результат получен при воспроизведении собственного контекста модели, а не в обычном диалоге. На реальных чат-запросах автор указывает примерно 133 токена в секунду.
187 просмотров