LLM 에이전트를 위한 계층적 그래프 메모리: 경로 수준의 지역화 및 재작성

Hierarchical Graph Memory for LLM Agents with Path-level Localization and Rewrite

장기적인 추론을 수행하는 에이전트는 새로운 사실과 외부 피드백이 지속적으로 입력됨에 따라 효율적이고 효과적으로 업데이트될 수 있는 메모리가 필요합니다. 최근에는 멀티홉 검색 및 추론을 위한 구조적 조직을 제공하기 위해 그래프 메모리가 활용되었습니다. 그러나 기존 방법은 모든 메모리를 평면적인 그래프로 저장하며, 누적된 과거 메모리는 관련 없는 컨텍스트를 도입하고 검색 과정에서의 증거 선택 비용을 증가시킬 수 있습니다. 또한, 일반적으로 메모리 단위를 독립적으로 업데이트하므로 관련된 변경 사항을 반영하기 위해 반복적인 단위별 재작성이 필요합니다. 이러한 문제점을 해결하기 위해 경로 수준의 지역화 및 재작성을 특징으로 하는 진화형 계층적 그래프 메모리 프레임워크인 HiGram을 제안합니다. 구체적으로, 먼저 상위 레벨 노드와 MemoryUnits로 구성된 조잡한-세밀한 구조를 갖춘 계층적 그래프 메모리를 제안하여 검색 시 관련 없는 정보의 양을 줄입니다. 또한, 쿼리와 업데이트에 조건부인 MicroGraph 기반의 경로 수준 지역화를 제안합니다. 이를 통해 재작성 전에 지원 서브그래프와 증거 경로를 식별합니다. 마지막으로, 내부 단위 메모리와 단위 간 종속성을 함께 수정하는 조정된 재작성 방법을 제안하여 지역화된 증거 경로에서 유효한 종속 구조 업데이트를 가능하게 합니다. 장기적인 대화형 질문 응답 및 충돌 인지 메모리 평가를 위한 벤치마크 실험 결과, HiGram은 기준 모델보다 답변 품질과 토큰 효율성 측면에서 상당한 개선을 보여줍니다. 또한, 제안하는 방법은 동적, 정적, 조건부 충돌 상황에서 답변 정확도와 유효한 증거 선택 능력을 향상시킵니다.

Agents for long term reasoning require a memory that can be efficiently and effectively updated over time, as new facts and external feedback continue to arrive. Recently, graph memory has been adopted to offer structural organization for multi-hop retrieval and reasoning. However, existing methods store all memories in a flat graph, and accumulated historical memories can introduce irrelevant contexts and increase the cost of evidence selection during retrieval. Moreover, they typically update memory units independently, requiring repeated unit-wise rewrite to cover related changes. To address these issues, we propose HiGram, an evolving hierarchical graph memory framework with path-level localization and rewriting. Specifically, we first propose a hierarchical graph memory, which organizes the memory into coarse-to-fine architecture composed of upper-level nodes and MemoryUnits, thereby reducing the amount of irrelevant information during retrieval. We further propose MicroGraph-based path-level localization, which leverages query and update conditioned MicroGraphs to identify support subgraph and evidence path before rewrite. Finally, we propose a coordinated rewriting method that jointly revises intra-unit memory and inter-unit dependencies, enable valid dependency structures updating in the localized evidence path. Experiments on benchmarks for long-term conversational question answering and conflict-aware memory evaluation demonstrate that our method demonstrate substantial improvements over baselines in answer quality and token efficiency. Besides, our method improves answer accuracy and query-valid evidence selection under dynamic, static, and conditional conflicts.