오류가 있는 기억에서 교정된 행동으로: 종속성 기반 복구(Rollback Repair)를 통한 메모리 증강 에이전트

From Faulty Memories to Corrected Actions: Dependency-Guided Rollback Repair for Memory-Augmented Agents

지속적인 메모리는 언어 모델 기반 에이전트가 세션 간에 정보를 재사용할 수 있도록 하지만, 오류 또한 지속 가능하게 만듭니다. 악의적으로 조작되거나 오래된 정보, 또는 잘못 연결된 기록은 추론, 도구 사용, 답변, 그리고 후속 메모리 쓰기에 영향을 미칠 수 있습니다. 기존의 방어 메커니즘은 주로 의심스러운 메모리를 감지하거나 삭제하거나, 현재 응답을 수정합니다. 원본 데이터를 삭제하면 이미 전파된 주장이 그대로 남아있고, 저장 공간을 초기화하거나 전체 실행 기록을 다시 재생하는 것은 정상적인 상태를 손상시키며 불필요한 계산을 반복하게 됩니다. 따라서 본 연구에서는 extbf{실패 후 메모리 복구(post-failure memory recovery)} 방법을 제안합니다. 즉, extit{실행 오류가 발생하고 결함이 있는 메모리가 진단된 경우, 영향을 받지 않은 작업은 유지하면서 답변과 지속적인 상태를 모두 복원하는 것입니다.} 본 연구에서 제시하는 extbf{종속성 기반 복구(dependency-guided rollback repair)} 방법은 런타임 추적 정보를 기반으로 타입화된 메모리-액션 그래프를 구축하고, 명시적인 하위 종속성을 추적하며, 독립적으로 신뢰할 수 있는 정보는 보존하고, 지원되지 않는 메모리 상태는 비활성화하며, 답변과 관련된 부분만 선택적으로 재실행합니다. 제안하는 방법은 세 가지 도구 사용 영역과 네 가지 메모리 오류 유형을 포함하는 150개의 사례로 구성된 통제된 벤치마크 및 LongMemEval-V2에서 파생된 50개의 스트레스 테스트를 통해 평가되었습니다. 통제된 벤치마크에서는 85.3%의 복구율을 달성하여, 가장 우수한 기존 복구 방법인 77.3%보다 높은 성능을 보였으며, 진단된 모든 결함 메모리를 제거하고, 모든 정상적인 메모리를 보존하며, 선택적 재실행만으로 낮은 LLM 호출 비용을 유지했습니다. 수정된 데이터셋에서는 68.0%의 복구율을 달성하여, 다음으로 우수한 방법인 54.0%보다 높은 성능을 보였으며, 최고 수준의 주장 무효화 F1 점수(0.669 vs 0.603) 또한 기록했습니다. 전반적으로, 본 연구 결과는 추적 정보 재구성이 항상 더 나은 결과를 가져오는 것은 아님을 시사하지만, 종속성 기반 복구 방법이 결함 있는 메모리 상태를 수정하면서 정상적인 메모리를 보존하는 동시에 강력한 복구-비용 균형을 제공한다는 것을 보여줍니다.

Persistent memory lets language-model agents reuse information across sessions, but it also makes errors durable: a poisoned, stale, or misattributed record can alter reasoning, tool use, answers, and subsequent memory writes. Existing defenses mainly detect or delete suspicious memories, or revise the current response. Deleting the source leaves already propagated claims, actions, and derived memories active, whereas resetting the store or replaying the full trace destroys benign state and repeats unnecessary computation. We therefore formulate \textbf{post-failure memory recovery: } \textit{given a failed execution and diagnosed faulty memories, recover both the answer and persistent state while retaining unaffected work.} Our \textbf{dependency-guided rollback repair} builds a typed memory-to-action graph from runtime provenance, traces explicit downstream dependencies, preserves candidates with independent trusted support, deactivates unsupported memory state, and selectively replays only answer-relevant affected computation. We evaluate this approach on a 150-case controlled benchmark spanning three tool-use domains and four memory failure types, and on a 50-case trajectory-derived stress test adapted from LongMemEval-V2. On the controlled benchmark, it achieves 85.3\% recovery versus 77.3\% for the best competing recovery method, removes all diagnosed faulty memories, preserves all benign memories, and requires only selective replay with modest LLM-call cost. On the adapted subset, it reaches 68.0\% recovery versus 54.0\% for the next best method, while also achieving the highest claim invalidation F1, 0.669 versus 0.603. Overall, the results do not imply uniformly better trace reconstruction, but show that dependency-guided rollback repair provides a strong recovery--cost trade-off while repairing faulty memory state and preserving benign memory.