과거는 서막이다: 순차적으로 진화하는 LLM 메모리에서의 선택적 업데이트를 위한 플러그인 컨트롤러

The Past Is Prologue: A Plug-in Controller for Selective Updates in Sequentially Evolving LLM Memory

순차적으로 진화하는 LLM(Large Language Model) 메모리는 에이전트가 과거 경험을 재사용하도록 하지만, 기존 시스템은 일반적으로 로컬에서 생성된 각 메모리 업데이트를 미래의 행동 개선 여부를 확인하지 않고 적용합니다. 그 결과, 현재 작업에 도움이 되는 업데이트가 유용한 지식을 덮어쓰거나, 지나치게 특정한 규칙을 도입하거나, 최종 메모리를 최근 예시에 편향시킬 수 있습니다. 본 논문에서는 후보 메모리 업데이트를 수용할지 이전 메모리를 유지할지를 결정하는 플러그인 메모리 컨트롤러인 Janus를 제안합니다. Janus는 효율적인 의사 결정을 위해, 메모리 업데이트 경로의 의심스러운 변화를 식별하는 '메모리 모멘텀 트리거(Memory Momentum Trigger)'를 사용하고, 전체 기록을 재생하는 대신, 커버리지(coverage), 경계(boundary) 및 새로운 작업(fresh tasks)으로 구성된 간결한 하이브리드 평가 세트를 사용하여 이전 메모리와 새로운 메모리를 비교합니다. Janus는 특정 방법론에 의존하지 않으며, 기존 업데이트 방법을 변경하지 않고 래핑하여 사용합니다. 여섯 개의 데이터셋, 두 가지 기반 LLM 및 두 가지 메모리 업데이트 방식을 사용하여 실험한 결과, Janus는 해당 기본 업데이트 방식보다 평균 정확도를 +2.7에서 +4.6 포인트 향상시켰습니다.

Sequentially evolving LLM memory enables agents to reuse past experience, but existing systems usually deploy each locally generated memory update without checking whether it improves future behavior. As a result, updates that help the current task may overwrite useful knowledge, introduce over-specific rules, or bias the final memory toward recent examples. We propose Janus, a plug-in memory controller that decides whether to accept a candidate memory update or retain the previous memory. To make this decision efficient, Janus uses a Memory Momentum Trigger to identify suspicious deviations in the memory-update trajectory, and compares old and new memories on a compact hybrid evaluation set of coverage, boundary, and fresh tasks instead of replaying the full history. Janus is method-agnostic and wraps existing updaters without changing their update rules. Across six datasets, two backbone LLMs, and two memory updaters, Janus improves average accuracy by +2.7 to +4.6 points over the corresponding base updaters.