TFWaveFormer: 동적 링크 예측을 위한 시간-주파수 협업 다단계 웨이블릿 트랜스포머

TFWaveFormer: Temporal-Frequency Collaborative Multi-level Wavelet Transformer for Dynamic Link Prediction

동적 링크 예측은 소셜 네트워크 분석, 통신 예측, 금융 모델링 등 다양한 분야에서 중요한 역할을 합니다. 최근 트랜스포머 기반 접근 방식은 시간 그래프 학습에서 유망한 결과를 보여주었지만, 복잡한 다중 스케일 시간 동역학을 포착하는 데는 한계가 있습니다. 본 논문에서는 시간-주파수 분석과 다중 해상도 웨이블릿 분해를 통합하여 동적 링크 예측 성능을 향상시키는 새로운 트랜스포머 아키텍처인 TFWaveFormer를 제안합니다. 우리의 프레임워크는 세 가지 주요 구성 요소로 구성됩니다. (i) 시간 및 스펙트럼 표현을 동시에 모델링하는 시간-주파수 조정 메커니즘, (ii) 기존의 반복적인 웨이블릿 변환을 대체하여 병렬 컨볼루션을 통해 다중 스케일 시간 패턴을 적응적으로 추출하는 학습 가능한 다중 해상도 웨이블릿 분해 모듈, (iii) 로컬 웨이블릿 특징과 전역 시간 종속성을 효과적으로 융합하는 하이브리드 트랜스포머 모듈입니다. 벤치마크 데이터 세트에 대한 광범위한 실험 결과, TFWaveFormer는 기존의 트랜스포머 기반 모델 및 하이브리드 모델보다 뛰어난 성능을 보여주며, 여러 지표에서 상당한 우위를 차지합니다. TFWaveFormer의 우수한 성능은 시간-주파수 분석과 웨이블릿 분해를 결합하여 동적 링크 예측 작업에서 복잡한 시간 동역학을 포착하는 데 효과적임을 입증합니다.

Dynamic link prediction plays a crucial role in diverse applications including social network analysis, communication forecasting, and financial modeling. While recent Transformer-based approaches have demonstrated promising results in temporal graph learning, their performance remains limited when capturing complex multi-scale temporal dynamics. In this paper, we propose TFWaveFormer, a novel Transformer architecture that integrates temporal-frequency analysis with multi-resolution wavelet decomposition to enhance dynamic link prediction. Our framework comprises three key components: (i) a temporal-frequency coordination mechanism that jointly models temporal and spectral representations, (ii) a learnable multi-resolution wavelet decomposition module that adaptively extracts multi-scale temporal patterns through parallel convolutions, replacing traditional iterative wavelet transforms, and (iii) a hybrid Transformer module that effectively fuses local wavelet features with global temporal dependencies. Extensive experiments on benchmark datasets demonstrate that TFWaveFormer achieves state-of-the-art performance, outperforming existing Transformer-based and hybrid models by significant margins across multiple metrics. The superior performance of TFWaveFormer validates the effectiveness of combining temporal-frequency analysis with wavelet decomposition in capturing complex temporal dynamics for dynamic link prediction tasks.