НС
Нейро-Инсайдер: Слухи об ИИ, Новости про нейросети.
IT и технологии · 26 октября 2026 г.
Ускорение обработки промптов на Strix Halo
Ускорение обработки промптов на Strix Halo Появился форк gufo, позволяющий задействовать NPU XDNA2 в чипах Ryzen AI Max+ 395 для обработки промптов (prefill) в связке с GPU Radeon 8060S. Использование NPU в дополнение к GPU ускоряет обработку длинных контекстов: для модели Qwen3.8-27B прирост скорости составляет +28%, для GLM-5.3 Flash 320B-A18B — +17.5%. Это решение позволяет эффективнее обрабатывать большие репозитории кода, длинные истории агентов и RAG-контексты объемом от 100К токенов. 🚀 📰 Подписаться на канал
2 просмотров