제로-메모리: LLM 에이전트를 위한 제로-토큰 메모리 연산

Zero-Mem: Zero-Token Memory Operations for LLM Agents

LLM 에이전트는 일관성 있는 상호 작용을 유지하기 위해 메모리가 필요하지만, 많은 시스템은 해당 메모리를 관리하기 위해 추가적인 LLM 호출을 사용합니다. 중간 기록을 생성하고 검색하는 과정은 반복적인 토큰 소비와 시간 비용을 발생시키며, 누락되거나 병합된 세부 정보는 원래 증거를 가릴 수 있습니다. 본 논문에서는 구조화된 메모리 접근이 생성 과정을 필요로 하는지 묻습니다. Zero-Mem은 "제로-토큰 메모리 연산"을 도입하여 최종 질문 응답 외의 모든 단계에서 LLM 호출을 사용하지 않으며, LLM 입력 또는 출력 토큰도 소비하지 않습니다 (인코더 계산은 별도로 고려). Zero-Mem은 원래 상호 작용 기록을 데이터 소스로 보존하고, 이를 두 가지 상호 보완적인 방식으로 구성합니다. 엔티티-컨텍스트 그래프는 여러 상호 작용 간의 연결을 보여주고, 시간 계층 구조는 대화적 지역성과 세션 상태를 유지합니다. 각 쿼리에 대해 Zero-Mem은 두 시점을 모두 활용하여 정보를 검색하고, 검색된 정보의 구조를 따라 관련 관계나 주변 컨텍스트를 파악합니다. 결정론적인 교정 과정을 통해 충돌하는 증거는 제거되고, 사용자의 답변은 검색된 기록을 기반으로 합니다. 최종 질문 응답 과정에서만 LLM이 사용됩니다. Zero-Mem은 장기 메모리와 장문 텍스트에 대한 질의응답 벤치마크에서 경쟁력 있는 성능을 보이며, 동시에 메모리 연산 과정에서의 LLM 호출 및 LLM 토큰 소비를 제거합니다. 동일한 최종 질문 응답 모듈과 컨텍스트 예산을 사용할 때, Zero-Mem은 가장 빠른 기존 모델보다 메모리 연산 시간을 57.6% 단축했습니다. 실험 결과는 두 가지 시점의 기여도와 쿼리에 따른 조정 방식을 뒷받침합니다. 전반적으로, 본 연구 결과는 구조화된 에이전트 메모리가 과거에 대한 중간 표현을 생성할 필요가 없음을 보여줍니다. 동료 검토 후, 코드 및 구현 세부 정보는 다음 주소에서 확인할 수 있습니다: extcolor{blue}{https://github.com/TheMoon0815/Zero-mem}.

LLM agents need memory to act consistently over long interactions, yet many systems use additional LLM calls to operate that memory. Generating intermediate records and mediating their retrieval adds recurring token and time costs, while omitted or merged details can obscure the original evidence. We ask whether structured memory access requires generation at all. Zero-Mem introduces \emph{zero-token memory operations}: no step outside final question answering invokes an LLM or consumes LLM input or output tokens; encoder computation is accounted for separately. Zero-Mem preserves original interaction traces as its source of record. It organizes the traces in two complementary ways. An entity--context graph exposes connections across interactions, while a temporal hierarchy preserves conversational locality and session state. For each query, Zero-Mem weighs the two views, retrieves from both, and follows their structure to recover supporting relations or surrounding context. Deterministic calibration first discards conflicting evidence and then keeps the reader's answer grounded in the retrieved traces. Only the final-QA reader invokes an LLM. Across long-memory and long-context question-answering benchmarks, Zero-Mem achieves competitive performance while eliminating LLM calls and LLM-token consumption from memory operations. With the same final-QA reader and context budget, it reduces memory-operation time cost by 57.6\% relative to the fastest compared baseline. Ablations support the contribution of the two views and their query-dependent coordination. Overall, the results show that structured agent memory need not generate an intermediate representation of the past. After peer review, the code and implementation details will be available at \textcolor{blue}{https://github.com/TheMoon0815/Zero-mem}.