ABC: 연속 시간 및 공간에서의 비-마르코프 확산 브리지 기반, 임의 부분집합 자기 회귀 모델

ABC: Any-Subset Autoregression via Non-Markovian Diffusion Bridges in Continuous Time and Space

연속 시간 및 공간에서 생성되는 확률 과정(예: 비디오, 기상 예보)을 부분 관측(예: 첫 번째 및 마지막 프레임)에 기반하여 생성하는 것은 근본적인 과제입니다. 기존 방법(예: 확산 모델)은 다음과 같은 주요 한계점을 가지고 있습니다: (1) 노이즈-데이터 변환 과정이 물리적 시간에 가까운 상태 간의 구조적 유사성을 제대로 반영하지 못하며, 작은 시간 간격에서는 불안정한 통합을 보입니다. (2) 주입되는 랜덤 노이즈는 물리적 과정의 경과 시간에 민감하지 않아, 잘못된 동역학을 초래합니다. (3) 임의의 상태 부분집합(예: 불규칙하게 샘플링된 시간 단계, 미래 관측)에 대한 조건부 처리를 간과합니다. 본 논문에서는 연속 시간 및 공간에서의 비-마르코프 확산 브리지 기반, 임의 부분집합 자기 회귀 모델인 ABC를 제안합니다. 핵심적으로, 우리는 하나의 연속적인 확률 미분 방정식(SDE)을 사용하여, 이 SDE의 시간 변수와 중간 상태가 실제 시간과 과정의 상태를 추적하도록 모델링합니다. 이는 다음과 같은 증명 가능한 장점을 제공합니다: (1) 미래 상태를 생성하기 위한 시작점은 정보가 부족한 노이즈가 아닌, 이미 가까운 이전 상태입니다. (2) 주입되는 랜덤 노이즈는 경과된 물리적 시간에 따라 달라지므로, 물리적으로 타당한 동역학을 유도하여 시간적으로 인접한 상태에서 유사한 동작을 유도합니다. 우리는 경로 공간에서의 측정 변환을 통해 SDE 동역학을 도출하며, 이를 통해 또 다른 장점인 (3) 상태의 과거 및/또는 미래의 임의 부분집합에 대한 경로 의존적 조건부 처리가 가능합니다. 이러한 동역학을 학습하기 위해, 경로 및 시간 의존적인 디노이징 스코어 매칭을 확장했습니다. 우리의 실험 결과는 비디오 생성 및 기상 예보를 포함한 여러 분야에서 ABC가 경쟁 모델보다 우수한 성능을 보임을 보여줍니다.

Generating continuous-time, continuous-space stochastic processes (e.g., videos, weather forecasts) conditioned on partial observations (e.g., first and last frames) is a fundamental challenge. Existing approaches, (e.g., diffusion models), suffer from key limitations: (1) noise-to-data evolution fails to capture structural similarity between states close in physical time and has unstable integration in low-step regimes; (2) random noise injected is insensitive to the physical process's time elapsed, resulting in incorrect dynamics; (3) they overlook conditioning on arbitrary subsets of states (e.g., irregularly sampled timesteps, future observations). We propose ABC: Any-Subset Autoregressive Models via Non-Markovian Diffusion Bridges in Continuous Time and Space. Crucially, we model the process with one continual SDE whose time variable and intermediate states track the real time and process states. This has provable advantages: (1) the starting point for generating future states is the already-close previous state, rather than uninformative noise; (2) random noise injection scales with physical time elapsed, encouraging physically plausible dynamics with similar time-adjacent states. We derive SDE dynamics via changes-of-measure on path space, yielding another advantage: (3) path-dependent conditioning on arbitrary subsets of the state history and/or future. To learn these dynamics, we derive a path- and time-dependent extension of denoising score matching. Our experiments show ABC's superiority to competing methods on multiple domains, including video generation and weather forecasting.