자기회귀(Autoregression) 방식을 사용하지 않는 신경망 기반 연산자: 시간 의존 편미분 방정식

Autoregression-Free Neural Operators for Time-Dependent PDEs

신경망 기반 연산자는 입력 함수에 대한 매핑을 학습하여 편미분 방정식을 해결하는 효과적인 프레임워크를 제공합니다. 시간 의존 편미분 방정식의 경우, 기존 방법은 일반적으로 고차원 물리 필드 공간에서 자기회귀 방식을 사용하여 장기 예측을 수행하며, 각 예측된 상태는 다음 단계의 입력으로 재귀적으로 사용됩니다. 이러한 방식은 단기 예측에는 효과적이지만, 장기 예측 과정에서 발생하는 오차가 누적되고 연속 시간 모델링이 부족하여 전체적인 성능 저하를 초래합니다. 본 연구에서는 자기회귀 방식을 사용하지 않는 신경망 기반 연산자(AFNO)를 제안하며, 이는 편미분 방정식의 시간 변화를 잠재 공간으로 매핑하고, 이 잠재 공간 내에서 연속 시간 벡터장을 모델링합니다. AFNO는 플로우 매칭을 사용하여 잠재 벡터장을 학습함으로써, 자기회귀 방식 없이도 장기간에 걸친 연속적인 진화를 가능하게 합니다. 또한, 물리적 파라미터에 대한 명시적인 조건부 설정을 통해 다양한 파라미터 설정 하에서의 동역학을 포착합니다. 이론적 분석과 6개의 편미분 방정식에 대한 광범위한 실험 결과는 AFNO가 장기 예측의 안정성을 향상시키고, 기준 모델 대비 전체적으로 오차를 줄이는 데 효과적임을 보여줍니다.

Neural operators learn mappings from function-dependent inputs to solutions, providing an effective framework for solving partial differential equations (PDEs). For time-dependent PDEs, existing methods typically perform long-horizon prediction through autoregressive rollout directly in high-dimensional physical field spaces, where each predicted state is recursively fed back as the input for the next step. Although effective for short-term prediction, this autoregressive rollout and the lack of continuous-time modeling lead to progressive error accumulation over long-horizon rollouts. In this work, we propose Autoregression-Free Neural Operators (AFNO), which map the time evolution of PDEs into a latent space and model continuous-time vector fields within it. AFNO uses flow matching to learn the latent vector field, thereby enabling continuous evolution over extended horizons, avoiding autoregressive rollout and capturing dynamics under varying parameter configurations through explicit conditioning on physical parameters. Theoretical analysis and extensive experiments on six PDEs demonstrate that AFNO improves long-horizon prediction stability and consistently reduces rollout errors compared with the baselines.