수정된 흐름의 최적 샘플 복잡도

Order-Optimal Sample Complexity of Rectified Flows

최근, 흐름 기반 생성 모델은 확산 모델에 비해 뛰어난 효율성을 보여주고 있습니다. 본 논문에서는 데이터 분포에서 기본 분포로의 변환 경로를 선형으로 제한하는 수정된 흐름 모델을 연구합니다. 이러한 구조적 제약은 샘플링 속도를 크게 향상시켜, 종종 단일 유일러 단계를 통해 고품질 생성을 가능하게 합니다. 속도장을 매개변수화하고 데이터 분포를 모델링하는 데 사용되는 신경망 클래스에 대한 표준적인 가정 하에서, 수정된 흐름이 $ ilde{O}( ext{ε}^{-2})$의 샘플 복잡도를 달성한다는 것을 증명합니다. 이는 기존의 흐름 매칭 모델의 최적 값인 $O( ext{ε}^{-4})$보다 개선되었으며, 평균 추정의 최적 비율과 일치합니다. 우리의 분석은 수정된 흐름의 특수한 구조를 활용합니다. 모델이 선형 경로를 따라 제곱 손실으로 훈련되기 때문에, 관련된 가설 클래스는 뚜렷하게 제어된 국소적인 Rademacher 복잡도를 갖습니다. 이는 개선된, 최적의 샘플 복잡도를 제공하며, 수정된 흐름 모델의 강력한 실증적 성능에 대한 이론적 설명을 제공합니다.

Recently, flow-based generative models have shown superior efficiency compared to diffusion models. In this paper, we study rectified flow models, which constrain transport trajectories to be linear from the base distribution to the data distribution. This structural restriction greatly accelerates sampling, often enabling high-quality generation with a single Euler step. Under standard assumptions on the neural network classes used to parameterize the velocity field and data distribution, we prove that rectified flows achieve sample complexity $\tilde{O}(\varepsilon^{-2})$. This improves on the best known $O(\varepsilon^{-4})$ bounds for flow matching model and matches the optimal rate for mean estimation. Our analysis exploits the particular structure of rectified flows: because the model is trained with a squared loss along linear paths, the associated hypothesis class admits a sharply controlled localized Rademacher complexity. This yields the improved, order-optimal sample complexity and provides a theoretical explanation for the strong empirical performance of rectified flow models.