PiXTime: 노드 간 이질적인 데이터 구조를 가진 연합 시계열 예측 모델

PiXTime: A Model for Federated Time Series Forecasting with Heterogeneous Data Structures Across Nodes

시계열 데이터는 매우 가치 있지만, 노드 간 공유가 어렵기 때문에 연합 학습은 분산된 시계열 데이터를 활용하는 데 유망한 패러다임입니다. 그러나 서로 다른 샘플링 기준은 노드 간 다양한 시간 단위와 변수 집합을 초래하여 기존 연합 학습의 어려움을 야기합니다. 본 논문에서는 연합 학습을 위한 새로운 시계열 예측 모델인 PiXTime을 제안합니다. PiXTime은 다중 시간 단위 및 이질적인 변수 집합을 가진 노드 간 효과적인 예측을 가능하게 합니다. PiXTime은 개인화된 패치 임베딩을 사용하여 노드별 시간 단위 시계열을 통일된 차원의 토큰 시퀀스로 매핑하여 후속 공유 모델에서 처리하도록 하고, 전역 VE 테이블을 사용하여 노드 간 변수 범주 의미를 정렬함으로써 노드 간 전이성을 향상시킵니다. 트랜스포머 기반의 공유 모델을 사용하여 PiXTime은 임의의 수의 변수를 가진 보조 시계열의 표현을 학습하고, 크로스 어텐션을 사용하여 목표 시계열 예측을 향상시킵니다. 실험 결과, PiXTime은 연합 환경에서 최첨단 성능을 달성했으며, 널리 사용되는 8개의 실제 벤치마크에서 우수한 성능을 보였습니다.

Time series are highly valuable and rarely shareable across nodes, making federated learning a promising paradigm to leverage distributed temporal data. However, different sampling standards lead to diverse time granularities and variable sets across nodes, hindering classical federated learning. We propose PiXTime, a novel time series forecasting model designed for federated learning that enables effective prediction across nodes with multi-granularity and heterogeneous variable sets. PiXTime employs a personalized Patch Embedding to map node-specific granularity time series into token sequences of a unified dimension for processing by a subsequent shared model, and uses a global VE Table to align variable category semantics across nodes, thereby enhancing cross-node transferability. With a transformer-based shared model, PiXTime captures representations of auxiliary series with arbitrary numbers of variables and uses cross-attention to enhance the prediction of the target series. Experiments show PiXTime achieves state-of-the-art performance in federated settings and demonstrates superior performance on eight widely used real-world traditional benchmarks.