덜 기억하고, 더 일반화하라: 동적 그래프를 위한 시간 및 구조 적응의 통합

Forget Less, Generalize More: Unifying Temporal and Structural Adaptation for Dynamic Graphs

동적 그래프에서의 표현 학습은 시간과 구조 모두에 걸쳐 변화하는 복잡한 의존성을 포착해야 합니다. 기존 접근 방식은 일반적으로 고정된 시간 감쇠 방식을 사용하거나 미리 결정된 구조 전파 깊이를 적용하며, 이는 다양한 상호 작용 빈도와 위상학적 특징을 가진 그래프에 대한 일반화 능력을 제한합니다. 본 논문에서는 시간 기억과 구조적 맥락을 모두 인코딩하는 유지 표현 상태를 활용하는 통합 프레임워크인 Dual-Scale Retentive Dynamics (DSRD)를 제안합니다. DSRD는 다음 두 가지 핵심 구성 요소를 도입합니다: (i) 단일 순환 형식 내에서 시간 동역학과 구조 전파를 동시에 모델링하는 이중 규모 적응 기능을 갖춘 유지 상태, 그리고 (ii) 학습 가능한 시간 민감도 매개변수를 가진 적응 감쇠 커널을 사용하여 기본 상호 작용 패턴에 따라 단기 반응성과 장기 기억력을 자동으로 균형을 맞춥니다. 본 논문에서는 이벤트별 병렬 집계와 효율적인 순환 상태 업데이트 간의 등가성을 입증하는 이론적 분석과 함께 학습된 동역학에 대한 안정성 및 경계 조건을 제시합니다. 14개의 실제 데이터 세트에 대한 광범위한 실험 결과는 DSRD가 링크 예측 및 노드 분류 작업 모두에서 최첨단 성능을 지속적으로 달성하며, 반지도 학습 및 완전 지도 학습 환경 모두에서 강력한 일반화 능력을 보여주었음을 입증합니다.

Representation learning on dynamic graphs requires capturing complex dependencies that evolve across both time and structure. Existing approaches typically adopt fixed temporal decay schemes or predetermined structural propagation depths, limiting their ability to generalize across graphs with diverse interaction frequencies and topological characteristics. We propose Dual-Scale Retentive Dynamics (DSRD), a unified framework that maintains a retentive representation state encoding both temporal memory and structural context. DSRD introduces two key components: (i) a retentive state with dual-scale adaptation that jointly models temporal dynamics and structural propagation within a single recurrent formulation, and (ii) adaptive decay kernels with learnable time-sensitivity parameters that automatically balance short-term responsiveness and long-term retention based on the underlying interaction patterns. We provide theoretical analysis establishing the equivalence between event-wise parallel aggregation and efficient recurrent state updates, as well as stability and boundedness guarantees for the learned dynamics. Extensive experiments on 14 real-world benchmarks demonstrate that DSRD consistently achieves state-of-the-art performance on both link prediction and node classification tasks, with strong generalization across transductive and inductive settings.