발산 기반 샘플링을 이용한 플로우 매칭의 학습 불필요한 개선

Training-Free Refinement of Flow Matching with Divergence-based Sampling

플로우 기반 모델은 간단한 사전 분포에서 각 샘플을 대상 데이터에 연결하는 샘플별 속도의 평균으로 정의된 주변 속도장을 모델링하여 대상 분포를 학습합니다. 그러나 샘플별 속도가 동일한 중간 상태에서 충돌할 때, 이 평균 속도는 샘플을 저밀도 영역으로 잘못 유도하여 생성 품질을 저하시킬 수 있습니다. 이 문제를 해결하기 위해, 우리는 각 솔버 단계 전에 중간 상태를 개선하는 학습 불필요한 프레임워크인 Flow Divergence Sampler (FDS)를 제안합니다. 우리의 주요 발견은 이 잘못된 유도의 정도가, 최적화된 모델을 사용하여 추론 중에 쉽게 계산할 수 있는 주변 속도장의 발산으로 정량화될 수 있다는 것입니다. FDS는 이 신호를 활용하여 상태를 덜 모호한 영역으로 유도합니다. FDS는 표준 솔버 및 기존 플로우 백본과 호환되는 플러그 앤 플레이 프레임워크로서, 텍스트-이미지 합성 및 역문제와 같은 다양한 생성 작업에서 일관되게 충실도를 향상시킵니다.

Flow-based models learn a target distribution by modeling a marginal velocity field, defined as the average of sample-wise velocities connecting each sample from a simple prior to the target data. When sample-wise velocities conflict at the same intermediate state, however, this averaged velocity can misguide samples toward low-density regions, degrading generation quality. To address this issue, we propose the Flow Divergence Sampler (FDS), a training-free framework that refines intermediate states before each solver step. Our key finding reveals that the severity of this misguidance is quantified by the divergence of the marginal velocity field that is readily computable during inference with a well-optimized model. FDS exploits this signal to steer states toward less ambiguous regions. As a plug-and-play framework compatible with standard solvers and off-the-shelf flow backbones, FDS consistently improves fidelity across various generation tasks including text-to-image synthesis, and inverse problems.