에이전트 메모리: 상태를 갖는 장기 작업 환경에서의 특성 및 시스템적 함의

Agent Memory: Characterization and System Implications of Stateful Long-Horizon Workloads

LLM 에이전트는 점차적으로 장기간 지속되는 추론이 필요한 장기 과제에 배치되고 있으며, 이를 대규모로 구현하기 위해서는 에이전트가 세션 간에 자체 메모리를 지속적으로 저장, 검색하고 업데이트해야 합니다. 현재는 플랫 검색 방식, LLM 기반 추출 방식, 사실 정보 저장소 통합 방식, 그리고 에이전트 제어 흐름 등 다양한 에이전트 메모리 시스템들이 존재합니다. 하지만 이러한 시스템들의 시스템 수준적인 동작 특성에 대한 연구는 부족합니다. 본 논문에서는 에이전트 메모리에 대한 최초의 시스템적 특성 분석을 제시합니다. 첫째, 에이전트 메모리 시스템을 네 가지 축으로 분류하는 시스템 지향적인 분류 체계를 소개합니다. 둘째, 구성, 검색, 생성 단계를 고려한 성능 측정 도구를 구축하여 각 단계별 비용을 분석합니다. 셋째, 두 개의 표준 데이터 세트를 사용하여 대표적인 열 시스템의 동작 특성을 분석하고, 설계 선택이 쓰기 및 읽기 경로에 미치는 영향을 파악합니다. 마지막으로, 구성 스케줄링, 최소 성능 기준, 쿼리 볼륨을 통한 비용 절감 방안, 최신성-지연 시간 균형, 그리고 대규모 관리 시스템 등 10가지 시스템 개선 사항을 제안합니다.

LLM agents are increasingly deployed on long-horizon tasks requiring sustained reasoning over extended interaction histories. Realizing this at scale requires agents to persistently store, retrieve, and update their own memory across sessions. A rich ecosystem of agent memory systems has emerged spanning flat retrieval, LLM-mediated extraction, consolidating fact stores, and agentic control flows. Yet, their system-level behavior remains uncharacterized. We present the first systems characterization of agent memory. First, we introduce a system-oriented taxonomy classifying agent memory systems along four axes. Second, we build a phase-aware profiling harness attributing cost to construction, retrieval, and generation. Third, we characterize ten representative systems across two benchmark suites, uncovering how design choices shift cost across the write and read paths. Finally, we derive 10 system recommendations covering construction scheduling, capability floors, amortization via query volume, freshness-latency tradeoffs, and fleet-scale management.