qwenGPU запускает CUDA — программы для видеокарт — внутри экспериментальной Qwen3.5-2B....
qwenGPU запускает CUDA — программы для видеокарт — внутри экспериментальной Qwen3.5-2B. Разработчикам это позволяет проверять точные вычисления внутри языковой модели, а не рядом с ней. В её параметры встроили блок параллельных вычислений: перед 24 слоями модели добавили 45 новых, всего 69. • Для запуска подходят Apple silicon, видеокарта NVIDIA или обычный процессор; нужно около 16 ГБ свободной памяти • По данным разработчика, интерпретатор совпал с NVIDIA Tesla T4 на 49 из 49 вычислительных задач CUDA-код, написанный Qwen, прошёл 4 из 5 проверок Это эксперимент, все результаты — самотестирование. На Apple MPS скорость — около 10–15 токенов (фрагментов текста) в секунду. Показатели для разного оборудования и типов токенов напрямую сравнивать нельзя. #чипы 🔹 Первый Нейронный · Ещё у нас: 📱 Технологии и гаджеты