LLM 시대의 기억: 통합 프레임워크 내에서의 모듈형 아키텍처 및 전략

Memory in the LLM Era: Modular Architectures and Strategies in a Unified Framework

기억은 장기적인 복잡한 작업(예: 다중 턴 대화, 게임 플레이, 과학적 발견)을 수행하는 LLM 기반 에이전트에서 핵심 모듈로 부상합니다. 기억은 지식 축적, 반복적인 추론 및 자기 진화를 가능하게 합니다. 문헌에는 다양한 기억 방법이 제안되었지만, 이러한 방법들은 동일한 실험 환경 하에서 체계적이고 종합적으로 비교되지 않았습니다. 본 논문에서는 먼저 기존의 대표적인 에이전트 기억 방법을 고차원의 관점에서 포괄하는 통합 프레임워크를 요약합니다. 그 후, 두 가지 장기 대화 벤치마크 및 에이전트 기반 기억 벤치마크에서 대표적인 에이전트 기억 방법들을 광범위하게 비교하고, 각 방법의 효과성을 검토하여 심층적인 분석을 제공합니다. 또한, 실험 분석 결과로 기존 방법들의 모듈을 활용하여 새로운 기억 방법을 설계했으며, 이는 최첨단 방법보다 우수한 성능을 보였습니다. 마지막으로, 이러한 연구 결과를 바탕으로 유망한 미래 연구 기회를 제시합니다. 기존 방법의 동작 방식에 대한 심층적인 이해는 향후 연구를 위한 귀중한 통찰력을 제공할 수 있다고 믿습니다.

Memory emerges as the core module in the large language model (LLM)-based agents for long-horizon complex tasks (e.g., multi-turn dialogue, game playing, scientific discovery), where memory can enable knowledge accumulation, iterative reasoning and self-evolution. A number of memory methods have been proposed in the literature. However, these methods have not been systematically and comprehensively compared under the same experimental settings. In this paper, we first summarize a unified framework that covers existing representative agent memory methods from a high-level perspective. We then extensively compare representative agent memory methods on two long-term conversational benchmarks and an agentic memory benchmark, and examine the effectiveness of representative methods, providing a thorough analysis of those methods. As a byproduct of our experimental analysis, we also design a new memory method by exploiting modules in the existing methods, which outperforms the state-of-the-art methods. Finally, based on these findings, we offer promising future research opportunities. We believe that a deeper understanding of the behavior of existing methods can provide valuable new insights for future research.