에이전트 메모리 개선을 위한 메커니즘 기반 어텐션 가이드

Mechanistic Attention Guidance for Agent Memory Refinement

기존의 자기 진화적 메모리 시스템은 주로 작업 경로 및 성찰과 같은 텍스트 출력을 기반으로 에이전트 메모리를 개선합니다. 그러나 이러한 텍스트 기반 패러다임은 내부적인 메커니즘 신호를 거의 포함하지 않으며, 검색된 메모리가 실제로 작업 실행 중에 어떻게 활용되는지에 대한 탐구가 부족합니다. 이러한 제한 사항은 신뢰할 수 없는 오류 원인 분석 및 환각 현상으로 인한 잘못된 메모리 수정으로 이어질 수 있습니다. 본 연구에서는 검색 헤드 어텐션이 세그먼트 수준의 메모리 활용을 파악하는 메커니즘적인 신호를 제공한다는 것을 보여줍니다. 메모리 세그먼트와 의사 결정 단계를 기준으로 어텐션을 집계하여, 반복되는 메모리 사용 패턴을 드러내고 이에 상응하는 개선 전략을 제시하는 컨텍스트 활용 행렬을 구성합니다. 이러한 관찰을 바탕으로, 우리는 어텐션 가이드 메모리 개선(AGMR)이라는 프레임워크를 제안합니다. AGMR은 어텐션을 통해 파악된 활용 패턴을 사용하여 대상 세그먼트 수준의 메모리 업데이트를 안내합니다. AGMR은 실패한 실행에 대한 메모리를 수정하거나 향상시키고, 성공적인 실행에 대한 메모리를 단순화하며, 각 업데이트를 재실행을 통해 검증합니다. 인터랙티브 의사 결정 벤치마크에서의 실험 결과는 AGMR이 텍스트 기반의 기존 방식보다 작업 성능과 메모리 효율성을 모두 향상시킨다는 것을 보여줍니다. 코드는 다음 링크에서 확인할 수 있습니다: https://anonymous.4open.science/r/AGMR_code-3262/

Existing self-evolving memory systems mainly improve agent memory based on textual outputs, such as task trajectories and reflections. However, this text-based paradigm rarely incorporates internal mechanistic signals, leaving how retrieved memory is actually utilized during task execution underexplored. This limitation can lead to unreliable error attribution and hallucinated memory modifications. In this work, we show that retrieval-head attention provides a mechanistic signal for revealing segment-level memory utilization. By aggregating attention over memory segments and decision steps, we construct a context utilization matrix that exposes recurring memory-use patterns and indicates corresponding refinement strategies. Building on this observation, we propose Attention-Guided Memory Refinement (AGMR), a framework that uses utilization patterns revealed by attention to guide targeted segment-level memory updates. AGMR corrects or enhances memory for failed executions, simplifies memory for successful executions, and verifies each update through re-execution. Experiments on interactive decision-making benchmarks show that AGMR improves both task performance and memory efficiency over text-only memory refinement baselines. Code is available at https://anonymous.4open.science/r/AGMR_code-3262/