흐름 매칭 불확실성에 대한 기하학적 해석 및 무료 프록시

The Geometry of Flow-Matching Uncertainty: A Cost-free Uncertainty Proxy and Its Application in Flow-based VLA Failure Detection

흐름 매칭(FM)은 현대 임베디드 모델에서 인기 있는 액션 생성 방식으로 자리 잡았습니다. 그러나 FM은 조건부 생성 모델로서, 내재된 불확실성을 명시적으로 드러내지 않아 장면을 잘못 해석하거나 분포 외(OOD) 입력을 만날 때 비정상적인 동작을 초래할 수 있습니다. 따라서 FM이 생성한 동작의 신뢰도를 판단하는 것은 안전한 배포에 필수적입니다. 그러나 실시간 제어에서 기존의 불확실성 추정 방법은 추가적인 학습 비용, 높은 계산 오버헤드 및 낮은 일반화 능력을 포함한 여러 문제점을 가지고 있습니다. 본 연구에서는 흐름장의 기하학적 해석을 통해 FM의 불확실성이 이상적인 affine-isotropic 수축장에 대한 편차로 나타나는 것을 보여줍니다. 이러한 관찰을 바탕으로, 추가적인 모델 평가, 학습 또는 리샘플링 없이 단일 순전파만으로 디노이징 경로의 굽힘 정도를 측정하여 높은 일반화 성능과 비용 효율성을 갖는 불확실성 프록시인 디노이징 가속(denoising acceleration, $\mathrm{accel}$)을 제안합니다. 이론적 및 실험적으로 $\mathrm{accel}$이 FM 불확실성에 대한 신뢰할 수 있는 프록시임을 입증하고, 온라인 오류 감지에서의 유용성을 추가로 검증했습니다. 결과는 $\mathrm{accel}$이 종료 전에 비정상적인 동작을 잘 식별하며, 현실적인 배포 예산 하에서 리샘플링 및 학습 기반의 기존 방법과 동등하거나 더 나은 성능을 보임을 보여줍니다. 코드 및 데모는 다음 링크에서 확인할 수 있습니다: https://github.com/rrrrrrzy/fm-geometry.

Flow matching (FM) has become a popular action head paradigm for modern embodied models. However, as a conditional generative model, it does not explicitly expose its inherent uncertainty, producing faulty action chunks even when it misinterprets the scene or encounters out-of-distribution (OOD) inputs. Therefore, determining when an FM-generated action can be trusted is essential for safe deployment, yet existing uncertainty estimation methods on real-time control suffer from several issues: extra training budget, high computational overhead, and low generalization ability. In this work, we provide a geometric interpretation of FM uncertainty in the velocity field, showing that uncertainty manifests as deviation from an ideal affine-isotropic contraction field. Building on this observation, we introduce denoising acceleration ($\mathrm{accel}$), a highly-generalizable and cost-free uncertainty proxy that measures the bending of the denoising trajectory from a single forward pass, without additional model evaluations, training, or resampling. We theoretically and empirically demonstrate that $\mathrm{accel}$ is a faithful proxy for FM uncertainty and further test its utility in online failure detection. Results show that $\mathrm{accel}$ identifies failing rollouts well before termination, matching or even outperforming costly resampling- and training-based baselines across settings under realistic deployment budget. Code and demos available at: https://github.com/rrrrrrzy/fm-geometry.