관계 기반 심층 학습에서의 점진적 평가 및 학습

Incremental Evaluation and Training in Relational Deep Learning

관계 기반 심층 학습(RDL) 모델은 다중 테이블 데이터베이스를 시간적으로 이질적인 그래프로 표현하여 엔드 투 엔드 표현 학습을 가능하게 합니다. 그러나 현재 RDL 평가 방법은 주로 정적이고 단일 에피소드의 데이터셋 스냅샷에 의존하며, 실제 데이터베이스의 연속적이고 시간에 따라 변화하는 특성을 간과합니다. 그 결과, 현재 RDL 벤치마크는 시간이 지남에 따라 모델 성능이 어떻게 변하는지를 제대로 반영하지 못합니다. 이러한 한계를 해결하기 위해, 우리는 최첨단 RDL 모델의 시간적 안정성과 적응력을 평가하고 개선하기 위한 점진적인 다중 에피소드 평가 및 학습 패러다임을 제안합니다. 확립된 대규모 데이터셋을 사용하여 데이터 진화와 모델 훈련 동역학을 분석한 결과, 예측 작업의 대부분에서 시간적 개념 변화가 발생하는 것을 확인했습니다. 우리는 모델 미세 조정을 위한 다양한 점진적 학습 방식을 제시하고, 전이 학습이 RDL 환경에서 실현 가능하며 매우 효과적임을 보여줍니다. 또한, 가까운 미래의 정확도를 우선시하는 새로운 시간 평가 지표를 함께 제시하여, 우리의 점진적으로 미세 조정된 모델들이 기존의 표준적인, 처음부터 훈련된 모델보다 일관되게 우수한 성능을 발휘함을 입증합니다.

Relational Deep Learning (RDL) models multi-tabular databases as temporal heterogeneous graphs to enable end-to-end representation learning. However, prevailing RDL evaluation practices rely on static, single-episode dataset snapshots, overlooking the continuous, time-evolving nature of real-world databases. Consequently, current RDL benchmarks fail to capture how model performance changes as new data accumulates over time. To address this limitation, we introduce an incremental, multi-episode evaluation and training paradigm to assess and improve the temporal robustness and adaptability of state-of-the-art RDL models. Using established large-scale datasets, we examine data evolution and model training dynamics, demonstrating that temporal concept drifts occur in the majority of predictive tasks. We present multiple incremental training regimes for fine-tuning the models and demonstrate that transfer learning is both feasible and highly effective in the RDL setting. Alongside a new temporal evaluation metric that prioritizes near-future accuracy, we show that our incrementally fine-tuned models consistently outperform the standard, expensive, from-scratch trained baselines.