AdaMamba: 장기 시계열 예측을 위한 적응형 주파수 게이팅 Mamba

AdaMamba: Adaptive Frequency-Gated Mamba for Long-Term Time Series Forecasting

정확한 장기 시계열 예측(LTSF)은 복잡한 장거리 의존성과 동적인 주기적 패턴을 파악해야 합니다. 최근 주파수 영역 분석의 발전은 시간적 특성을 파악하는 데 전반적인 관점을 제공합니다. 그러나 실제 시계열 데이터는 종종 뚜렷한 교차 도메인 이질성을 나타내며, 이는 시간 영역에서 동기화된 것처럼 보이는 변수가 주파수 영역에서 크게 다를 수 있음을 의미합니다. 기존의 주파수 기반 LTSF 방법은 종종 교차 도메인 균일성에 대한 암묵적인 가정을 기반으로 하며, 이는 복잡한 변동성에 대한 적응성을 제한합니다. 우리는 주파수 영역 분석과 시간 의존성 학습을 효과적으로 통합하기 위해, Mamba 상태 공간 업데이트 프로세스 내에 적응적이고 문맥 인식 주파수 분석을 내재화하는 새로운 프레임워크인 AdaMamba를 제안합니다. 특히, AdaMamba는 변수 간 상호 작용 동역학을 포착하기 위한 상호 작용 패치 인코딩 모듈을 도입합니다. 그런 다음, 입력에 따라 달라지는 주파수 기반을 생성하는 적응형 주파수 게이팅 상태 공간 모듈을 개발하고, 기존의 시간 잊힘 게이트를 통합된 시간-주파수 잊힘 게이트로 일반화합니다. 이를 통해 학습된 주파수 영역 중요성에 따라 상태 전환을 동적으로 조정하면서 Mamba의 장거리 의존성 모델링 기능을 유지할 수 있습니다. 일곱 개의 공개 LTSF 벤치마크와 두 개의 도메인별 데이터 세트에 대한 광범위한 실험 결과, AdaMamba는 예측 정확도 측면에서 최첨단 방법보다 일관되게 우수한 성능을 보이며, 경쟁력 있는 계산 효율성을 유지합니다. AdaMamba의 코드는 https://github.com/XDjiang25/AdaMamba 에서 확인할 수 있습니다.

Accurate long-term time series forecasting (LTSF) requires the capture of complex long-range dependencies and dynamic periodic patterns. Recent advances in frequency-domain analysis offer a global perspective for uncovering temporal characteristics. However, real-world time series often exhibit pronounced cross-domain heterogeneity where variables that appear synchronized in the time domain can differ substantially in the frequency domain. Existing frequency-based LTSF methods often rely on implicit assumptions of cross-domain homogeneity, which limits their ability to adapt to such intricate variability. To effectively integrate frequency-domain analysis with temporal dependency learning, we propose AdaMamba, a novel framework that endogenizes adaptive and context-aware frequency analysis within the Mamba state-space update process. Specifically, AdaMamba introduces an interactive patch encoding module to capture inter-variable interaction dynamics. Then, we develop an adaptive frequency-gated state-space module that generates input-dependent frequency bases, and generalizes the conventional temporal forgetting gate into a unified time-frequency forgetting gate. This allows dynamic calibration of state transitions based on learned frequency-domain importance, while preserving Mamba's capability in modeling long-range dependencies. Extensive experiments on seven public LTSF benchmarks and two domain-specific datasets demonstrate that AdaMamba consistently outperforms state-of-the-art methods in forecasting accu racy while maintaining competitive computational efficiency. The code of AdaMamba is available at https://github.com/XDjiang25/AdaMamba.