Living-Harness: 상호작용 에이전트 진화 시스템

Living-Harness Is an Interactive-Agent Evolver

대규모 언어 모델(LLM) 기반 에이전트는 특정 작업에서 실패하더라도, 이후 재시도 또는 에피소드 내에서 복구할 수 있습니다. 하지만, 에피소드가 끝난 후 제공되는 피드백은 미래의 상호작용을 안내하는 지속적인 시스템(harness)을 드물게 수정하기 때문에, 동일한 실행 오류가 나중에 다른 작업에서도 반복될 수 있습니다. 정적 시스템은 고정된 도구, 컨텍스트, 메모리 및 워크플로우 구조를 통해 안정성을 향상시키지만, 배포 후에는 변경되지 않습니다. 본 논문에서는 각 완료된 경로와 평가 신호를 사용하여 지속적인 시스템을 자체적으로 진화시키는 시스템인 $ extbf{Living-Harness}$를 제안합니다. 도메인 수준의 $ extbf{Evolution-SOP}$ ($ extbf{S}$tandard $ extbf{O}$perating $ extbf{P}$rocedure)에 따라, Living-Harness는 에피소드 추상화를 추출하고 구조화된 업데이트 증거를 생성하며, 다음과 같은 두 가지 상호 보완적인 형태의 절차적 지식을 기록합니다. 첫째, 트리거 조건, 실패 패턴 및 복구 작업을 기록하는 에피소드 메모리이고, 둘째, 상태 노드, 수리 연결 및 전환 규칙을 기록하는 상태 그래프입니다. 업데이트된 시스템 상태는 향후 상호작용을 안내하는 데 사용되며, 도구와 기본 컨텍스트는 고정되어 있어 절차적인 수정 사항이 진화 주기 동안 축적될 수 있습니다. $τ^2$-Bench 및 MultiWOZ-2.4에서 파생된 8개의 상호작용 환경에서 Living-Harness는 가장 강력한 기존 시스템보다 평균 Pass@1 성능을 각각 10.07%p 및 9.91%p 향상시켰으며, 진화된 시스템 상태를 다양한 모델 아키텍처에서 활용할 수 있도록 지원합니다.

Large language model (LLM) agents may recover from a failure within an episode or after a retry, yet the same execution failure can recur in later tasks because post-episode feedback rarely revises the persistent harness that guides future interactions. Static harnesses improve reliability through fixed tools, context, memory, and workflow structures, but remain unchanged after deployment. We propose $\textbf{Living-Harness}$, a self-evolving agent harness that converts each completed trajectory and its evaluator signals into posterior evidence for bounded harness updates. Guided by a domain-level $\textbf{Evolution-SOP}$ ($\textbf{S}$tandard $\textbf{O}$perating $\textbf{P}$rocedure), Living-Harness extracts an episode abstraction and structured update evidence, and writes two complementary forms of procedural knowledge: episodic memory that records trigger conditions, failure patterns, and recovery actions, and a state graph that records state nodes, repair edges, and transition rules. The updated harness state is retrieved to guide future interactions, while tools and base context remain frozen, allowing procedural repairs to accumulate across evolution cycles. On eight interactive environments derived from $τ^2$-Bench and MultiWOZ-2.4, Living-Harness improves average Pass@1 over the strongest interactive baseline by 10.07 and 9.91 percentage points, respectively, and supports retrieval-only reuse of the evolved harness state across model backbones. Our code will be made publicly available soon at https://github.com/anotherbricki/Living-Harness.