의미론적 조직을 넘어: 장기 과제 수행 에이전트를 위한 메모리를 실행 상태 관리로 활용

Beyond Semantic Organization: Memory as Execution State Management for Long-Horizon Agents

LLM 기반 에이전트는 점점 더 복잡하고 상호 의존적인 결정을 요구하는 장기 과제를 해결하며, 각 행동은 미래 제약을 변화시키고 중간 오류는 연쇄적으로 발생할 수 있습니다. 기존의 RAG (Retrieval-Augmented Generation) 및 에이전트 메모리 시스템은 의미적 유사성을 기반으로 과거 기록을 구성하여, 의사 결정 시 관련 정보를 검색합니다. 우리는 이러한 설계가 실행 상태 의존성과 일치하지 않는다고 주장합니다. 즉, 이는 의사 결정 경로를 단편화시키고 유효한 정보와 오류 데이터를 혼합시켜 일관된 상태 재구성과 오류 격리를 어렵게 만듭니다. 본 논문에서는 MAGE (Memory as Agent-Guided Exploration)라는 능동적인 실행 상태 관리 방식을 제안합니다. MAGE는 상호 작용을 계층적 상태 트리 형태로 저장하며, 에이전트는 활성 루트 노드에서 현재 경로까지의 정보를 기반으로 자신의 상태를 추론합니다. 여기에는 하위 목표 요약, 최근 기록 및 이전 분기에서 제공하는 힌트가 포함됩니다. 'Grow' (새로운 기록 추가), 'Compress' (완료된 하위 목표 요약), 'Maintain' (요약 검증), 그리고 'Revise' (대상 경계 복구 및 새로운 분기 재개)의 네 가지 연산이 트리 관리를 담당합니다. 이러한 설계는 컨텍스트 증가를 제한하면서도 상태 무결성을 유지하고 활성 경로에서 오류 발생 부분을 격리합니다. MemoryArena 환경에서의 실험 결과, MAGE는 기준 모델 대비 평균 작업 성공률을 7.8%~20.4% 향상시키고 토큰 사용량을 55.1% 감소시키는 것을 확인했습니다.

LLM-based agents increasingly tackle long-horizon tasks with interdependent decisions, where each action reshapes future constraints and intermediate errors can cascade. Existing RAG and agent memory systems organize histories by semantic similarity, retrieving content-relevant entries at decision time. We argue that this design mismatches execution-state dependencies: it fragments decision trajectories and mixes valid and erroneous traces, hindering coherent state reconstruction and error isolation. We propose MAGE (Memory as Agent-Guided Exploration), an active execution-state manager that stores interactions in a hierarchical state tree. The agent derives its state from the active root-to-current path, combining subgoal summaries, recent traces, and hints from prior branches. Four coupled operations maintain the tree: Grow records new traces, Compress summarizes completed subgoals, Maintain validates summaries, and Revise restores a target boundary and resumes on a new branch. This design bounds context growth while preserving state integrity and isolating flawed segments from the active path. Experiments on MemoryArena show that MAGE improves the average task success rate by 7.8--20.4 pp over baselines, while reducing token consumption by 55.1%.