플로우 매칭에 대한 운동 에너지 관점

A Kinetic-Energy Perspective of Flow Matching

플로우 기반 생성 모델은 물리학적 관점에서 이해될 수 있습니다. 샘플링은 노이즈에서 데이터로 입자를 이동시키는 과정으로, 시간에 따라 변하는 속도장을 적분하며, 각 샘플은 고유한 동역학적 노력을 갖는 경로에 해당합니다. 고전 역학에 영감을 받아, 본 논문에서는 오차 방정식(ODE) 경로를 따라 축적된 운동 에너지를 측정하는 샘플별 진단 지표인 운동 경로 에너지(KPE)를 소개합니다. 실험적으로, KPE는 다음과 같은 두 가지 중요한 상관관계를 보입니다. (i) KPE 값이 높을수록 의미적 충실도가 강해집니다. (ii) 높은 KPE 값을 갖는 경로는 낮은 밀도 영역의 경계에 종결됩니다. 또한, 경로 에너지와 데이터 밀도 간의 관계에 대한 이론적 보장을 제공합니다. 흥미롭게도, 이 상관관계는 단조적이지 않습니다. 충분히 높은 에너지에서는 생성 과정이 암기(memorization)로 이어질 수 있습니다. 경험적으로 파악된 플로우 매칭의 형태를 활용하여, 극단적인 에너지가 훈련 예제의 거의 완벽한 복제본으로 이어지는 경로를 유도한다는 것을 보여줍니다. 이러한 현상은 '골디락스(Goldilocks)' 원리를 시사하며, 암기를 줄이고 벤치마크 작업 전반에 걸쳐 생성 품질을 향상시키는 훈련이 필요 없는 두 단계의 추론 전략인 운동 경로 형성(Kinetic Trajectory Shaping, KTS)을 제안합니다. KTS는 초기 움직임을 강화하고 후반 단계에서 부드러운 종결을 유도합니다.

Flow-based generative models can be viewed through a physics lens: sampling transports a particle from noise to data by integrating a time-varying velocity field, and each sample corresponds to a trajectory with its own dynamical effort. Motivated by classical mechanics, we introduce Kinetic Path Energy (KPE), an action-like, per-sample diagnostic that measures the accumulated kinetic effort along an Ordinary Differential Equation (ODE) trajectory. Empirically, KPE exhibits two robust correspondences: (i) higher KPE predicts stronger semantic fidelity; (ii) high-KPE trajectories terminate on low-density manifold frontiers. We further provide theoretical guarantees linking trajectory energy to data density. Paradoxically, this correlation is non-monotonic. At sufficiently high energy, generation can degenerate into memorization. Leveraging the closed-form of empirical flow matching, we show that extreme energies drive trajectories toward near-copies of training examples. This yields a Goldilocks principle and motivates Kinetic Trajectory Shaping (KTS), a training-free two-phase inference strategy that boosts early motion and enforces a late-time soft landing, reducing memorization and improving generation quality across benchmark tasks.