MetricTrail
MetricTrail Инструмент NVIDIA для оценки движения камеры и метрической глубины по длинным RGB-последовательностям. Для визуальной одометрии и реконструкции сцен. • Восстанавливает траекторию камеры по видео или набору кадров • Считает глубину в метрах для каждого кадра • Внутренние параметры камеры можно задать самому или оценить по картинке • Опционально работает со стереопарой • Есть коррекция накопленной ошибки по замкнутым маршрутам • Тянет длинные записи, а не короткие клипы • Три с половиной миллиона обучаемых параметров, основа заморожена • Внутри DPVO для сопоставления патчей и DINOv3 для признаков • Глубину дает MoGe-2 • Обучение на 16 картах A100, около семи часов • CLI выгружает позы и кэш глубины, плотных облаков и мешей не отдает • Веса в репозитории пока не лежат, чекпоинт обещают отдельно • Лицензия только для некоммерческих исследований Инженерная часть любопытная: замороженные признаки берутся как есть, а дообучаются только небольшие адаптеры, так что модель стартует с предсказаний обычного DPVO и потом уточняет их. Глубина от отдельной модели работает как подсказка, но при противоречии с нескольких ракурсов может быть перебита геометрией. #video2depth #tracking
Канал в каталоге Максиметера
214 подписчиков · IT и технологии