Исследователи проверили, поможет ли Hawkeye ИИ-агентам писать более быстрые ядра — прог...
Исследователи проверили, поможет ли Hawkeye ИИ-агентам писать более быстрые ядра — программы для вычислений на GPU. По их данным, на отдельных вариантах механизма внимания геометрическое среднее ускорения составило 18,9 раза относительно кода экспертов из Flash Linear Attention. Инструмент помогает оптимизировать вычисления, но результат относится к задачам, где torch.compile не справляется с объединением операций, а не к ускорению модели целиком. 🔹 Первый Нейронный
1 просмотров