대화 시간을 넘어서: 개인화된 LLM 에이전트를 위한 시간적 의미 메모리

Beyond Dialogue Time: Temporal Semantic Memory for Personalized LLM Agents

메모리는 거대 언어 모델(LLM) 에이전트가 과거 대화의 정보를 인식, 저장 및 사용할 수 있게 해주며, 이는 개인화에 필수적입니다. 그러나 기존 방법들은 두 가지 측면에서 메모리의 시간적 차원을 제대로 모델링하지 못합니다. 1) 시간적 부정확성: 메모리가 실제 발생 시간이 아닌 대화 시간을 기준으로 구성됩니다. 2) 시간적 파편화: 기존 방법들은 시점별(point-wise) 메모리에 집중하여 지속적인 상태와 진화하는 패턴을 포착하는 지속적(durative) 정보를 놓칩니다. 이러한 한계를 해결하기 위해, 우리는 시점별 메모리에 대해 의미적 시간을 모델링하고 지속적 메모리의 구축 및 활용을 지원하는 메모리 프레임워크인 시간적 의미 메모리(TSM)를 제안합니다. 메모리 구축 과정에서 TSM은 대화 타임라인이 아닌 의미적 타임라인을 먼저 구축한 다음, 시간적으로 연속적이고 의미적으로 관련된 정보를 통합하여 지속적 메모리로 만듭니다. 메모리 활용 과정에서는 의미적 타임라인에 질의의 시간적 의도를 반영하여 시간적으로 적절한 지속적 메모리를 검색하고, 시간적으로 유효하며 기간 일관성이 있는 문맥을 제공하여 응답 생성을 지원합니다. LongMemEval 및 LoCoMo에 대한 실험 결과, TSM은 기존 방법들을 일관되게 능가하며 정확도를 최대 12.2% 절대 향상시켜 제안된 방법의 유효성을 입증했습니다.

Memory enables Large Language Model (LLM) agents to perceive, store, and use information from past dialogues, which is essential for personalization. However, existing methods fail to properly model the temporal dimension of memory in two aspects: 1) Temporal inaccuracy: memories are organized by dialogue time rather than their actual occurrence time; 2) Temporal fragmentation: existing methods focus on point-wise memory, losing durative information that captures persistent states and evolving patterns. To address these limitations, we propose Temporal Semantic Memory (TSM), a memory framework that models semantic time for point-wise memory and supports the construction and utilization of durative memory. During memory construction, it first builds a semantic timeline rather than a dialogue one. Then, it consolidates temporally continuous and semantically related information into a durative memory. During memory utilization, it incorporates the query's temporal intent on the semantic timeline, enabling the retrieval of temporally appropriate durative memories and providing time-valid, duration-consistent context to support response generation. Experiments on LongMemEval and LoCoMo show that TSM consistently outperforms existing methods and achieves up to 12.2% absolute improvement in accuracy, demonstrating the effectiveness of the proposed method.