AdaTKG: 시간적 지식 그래프 추론을 위한 적응형 메모리

AdaTKG: Adaptive Memory for Temporal Knowledge Graph Reasoning

시간적 지식 그래프(Temporal Knowledge Graphs, TKGs)는 시간 정보가 포함된 관계 정보를 나타내며, 변화하는 사건들에 대한 다양한 추론 작업을 지원합니다. 그러나 기존 방법들은 엔티티 표현을 엔티티 수준에서 고정적으로 생성합니다. 즉, 각 표현은 학습된 파라미터에 의존하며, 엔티티가 참여한 상호 작용의 흔적을 전혀 담고 있지 않습니다. 본 논문에서는 이러한 고정적인 관점을 벗어나, 각 엔티티를 적응적인 프로세스로 모델링하며, 엔티티가 사실에 참여할 때마다 해당 표현을 개선하는 방식을 제안합니다. 이를 위해, AdaTKG을 제안합니다. AdaTKG은 각 엔티티에 대한 메모리를 유지하며, 관찰되는 모든 상호 작용에 따라 메모리를 업데이트합니다. 메모리는 온라인 방식으로 축적되며, 더 많은 상호 작용이 있을수록 예측 성능이 향상됩니다. 구체적으로, 메모리 업데이트를 학습 가능한 지수 이동 평균(Exponential Moving Average)으로 구현하며, 각 엔티티별로 학습 가능한 파라미터를 사용하는 대신 단일 공유 스칼라를 사용하여 AdaTKG이 학습 과정에서 등장하지 않은 엔티티도 처리할 수 있도록 합니다. 광범위한 실험 결과는 AdaTKG이 기존 TKG 모델보다 일관되게 성능 향상을 보임을 입증하며, 적응형 메모리의 효과를 보여줍니다. 관련 코드는 다음 주소에서 공개적으로 이용할 수 있습니다: https://github.com/seunghan96/AdaTKG.

Temporal knowledge graphs (TKGs) represent time-stamped relational facts and support a wide range of reasoning tasks over evolving events. However, existing methods produce entity representations that are static at the entity level, in that each representation is a function of learned parameters only and retains no trace of the interactions in which the entity has participated. In this paper, we depart from this static view and propose that each entity be modeled as an adaptive process whose representation is refined every time the entity participates in a fact. To this end, we propose AdaTKG, which maintains a per-entity memory that is updated with every observed interaction, with the memory accumulating online and predictions improving as more interactions arrive. Specifically, we instantiate the memory update as a learnable exponential moving average governed by a single shared scalar instead of using learnable parameters for each entity, enabling AdaTKG to handle entities unseen during training. Extensive experiments confirm consistent gains over TKG baselines, demonstrating the effectiveness of adaptive memory. Code is publicly available at: https://github.com/seunghan96/AdaTKG.