Роль CFG Augmentation в улучшении метода DMD
Роль CFG Augmentation в улучшении метода DMD Авторы новой статьи исследуют метод DMD (ODE-free-дистилляция диффузионных моделей) и приходят к выводу, что ключевую роль в его работе играет не distribution matching, а CFG Augmentation. DMD направлен на то, чтобы сделать распределение данных, генерируемых моделью, похожим на распределение реальных данных, оптимизируя KL-дивергенцию. При этом скор-модели обучаются на зашумлённых данных, что стабилизирует процесс обучения. В версии DMD2 обучение генератора и оценщика было разомкнуто, а также был добавлен GAN loss для стабилизации обучения. В новой работе авторы показывают, что CFG Augmentation является основным обучающим сигналом, а distribution matching служит стабилизирующей регуляризацией. Эксперименты подтверждают: наилучший результат достигается при совместном использовании обоих компонентов.