시간적 지식 그래프 외삽을 위한 부정 인식 확산 과정

Negative-Aware Diffusion Process for Temporal Knowledge Graph Extrapolation

시간적 지식 그래프(TKG) 추론은 과거의 증거로부터 미래의 누락된 사실을 예측하는 것을 목표로 한다. 최근 확산 모델(DM)이 복잡한 예측 분포를 포착하는 능력으로 주목받고 있지만, 두 가지 한계가 남아 있다. 첫째, 생성 경로가 긍정적 증거에만 조건부로 작용하여 유익한 부정적 문맥을 간과한다는 점이다. 둘째, 학습 목표가 교차 엔트로피 순위에 치중되어 있어 후보 정렬은 개선하지만 노이즈가 제거된 임베딩의 보정(calibration)에 대한 감독은 거의 제공하지 못한다는 점이다. 이러한 격차를 해소하기 위해, 본 논문에서는 TKG 외삽을 위한 부정 인식 확산 모델인 NADEx를 제안한다. 구체적으로, NADEx는 엔티티, 관계 및 시간 간격의 주체 중심 이력을 순차적 임베딩으로 인코딩한다. NADEx는 순방향 과정에서 쿼리 객체를 변형시키고, 역방향 과정에서 시간-관계적 문맥을 조건으로 하는 트랜스포머(Transformer) 디노이저를 통해 이를 재구성한다. 또한, 배치 단위의 부정 프로토타입에서 유도된 코사인 정렬 정칙화기(regularizer)를 도출하여, 타당하지 않은 후보에 대한 결정 경계를 강화한다. 4개의 공개 TKG 벤치마크에 대한 포괄적인 실험을 통해 NADEx가 최고 수준(SOTA)의 성능을 달성함을 입증한다.

Temporal Knowledge Graph (TKG) reasoning seeks to predict future missing facts from historical evidence. While diffusion models (DM) have recently gained attention for their ability to capture complex predictive distributions, two gaps remain: (i) the generative path is conditioned only on positive evidence, overlooking informative negative context, and (ii) training objectives are dominated by cross-entropy ranking, which improves candidate ordering but provides little supervision over the calibration of the denoised embedding. To bridge this gap, we introduce Negative-Aware Diffusion model for TKG Extrapolation (NADEx). Specifically, NADEx encodes subject-centric histories of entities, relations and temporal intervals into sequential embeddings. NADEx perturbs the query object in the forward process and reconstructs it in reverse with a Transformer denoiser conditioned on the temporal-relational context. We further derive a cosine-alignment regularizer derived from batch-wise negative prototypes, which tightens the decision boundary against implausible candidates. Comprehensive experiments on four public TKG benchmarks demonstrate that NADEx delivers state-of-the-art performance.