В TensorRT 11.1 Global Performance Tuner сам подбирает оптимизации под каждую модель
В TensorRT 11.1 Global Performance Tuner сам подбирает оптимизации под каждую модель TensorRT любит один «идеальный» билд на все кейсы, но на практике компромисс скорости и точности у каждого веса свой. Универсальный профиль редко тянет весь зоопарк без сюрпризов. В 11.1 NVIDIA ответила Global Performance Tuner: рантайм сам выбирает оптимизации под конкретную модель, с настройкой точности сквозь весь пайплайн — не только на этапе одноразовой сборки. Первая часть серии была про планирование вычислений на GPU; вторая — про автотюн внутри рантайма. Если выкатываете несколько весов без штатного инженера под ядра, сравните свой фиксированный маршрут сборки с тем, что тюнер подберёт под каждый checkpoint, прежде чем снова неделю крутить конфиги.