EvolveNet: 협업 기반 진화 모델을 활용한 에이전트 자기 개선

EvolveNet: Collaborative Harness Evolution for Agent Self-Improvement

LLM 에이전트의 성능은 모델뿐만 아니라 '하네스(harness)'라고 불리는 실행 프로그램에 의해 결정됩니다. 하네스는 문맥을 구성하고, 도구를 호출하며, 결과를 검증하고, 오류 발생 시 복구하는 역할을 수행합니다. 최근 연구 결과는 하네스를 진화시키면 모델 가중치를 업데이트하지 않고도 지속적인 성능 향상을 얻을 수 있음을 보여줍니다. 그러나 기존 접근 방식은 모든 실행 경험을 단일 최적화기로 전달한다고 가정하며, 이 최적화기는 하나의 하네스를 순차적인 경로를 따라 진화시킵니다. 실제 에이전트 환경에서는 이러한 가정이 위배되는 경우가 많습니다. 사용자, 조직 및 환경에서 생성되는 분리된 경험 흐름은 통합될 수 없으며, 따라서 학습에 가장 유용한 경험은 바로 중앙 집중 관리가 불가능한 경험입니다. 본 논문에서는 데이터 중심의 협업 하네스 진화 패러다임인 EvolveNet을 제안합니다. 공유된 하네스는 데이터 로컬 에이전트 배포 환경으로 전송되고, 각 환경에서 자체 워크로드에 맞춰 하네스를 진화시킵니다. 결과적으로 생성된 프로그램 수정 사항만 통합되어 업데이트된 공유 하네스로 구성되고 다시 배포되므로, 모든 참여 에이전트는 다른 에이전트가 발견한 운영 경험을 상속받습니다. EvolveNet은 원본 워크로드 대신 학습된 수정 사항을 기준으로 집계 경계를 이동시켜 워크로드를 로컬 환경에 유지하고, 여러 진화 검색 과정을 동시에 진행하면서 순차적 깊이를 줄입니다. 독립적으로 수정된 프로그램은 모델 파라미터처럼 평균화할 수 없으며, 통합 과정에서 충돌이 발생할 수 있으므로 EvolveNet은 스코프(scope) 유형 기반의 증거 중심 프로그램 집계 방식을 도입합니다. 텍스트-SQL 변환, 데이터 과학 코딩, 경쟁 프로그래밍, 소프트웨어 엔지니어링 및 에이전트 워크플로우를 포함한 다섯 가지 환경에서 EvolveNet은 모든 환경에서 공유 하네스의 성능을 향상시켰으며, 특히 이질적인 워크로드에서 가장 큰 개선 효과를 보였습니다. 추가 분석 결과, 성능 향상은 서로 다른 에이전트로부터 얻은 수정 사항의 조합에 기인하며, 단순히 선택 과정에 의한 것이 아님을 확인했습니다.

The capabilities of an LLM agent depend not only on its model but on the harness: the executable program that constructs context, invokes tools, verifies results, and recovers from failure. Recent work shows that evolving the harness yields persistent improvements without updating model weights. Existing approaches, however, assume that all execution experience can be routed to a single optimizer, which evolves one harness along a sequential trajectory. Real agent ecosystems violate that assumption: users, organizations, and environments generate isolated streams of experience that cannot be pooled, so the experience most worth learning from is exactly the experience that cannot be directly centralized. We introduce EvolveNet, a paradigm of collaborative harness evolution that moves experience extraction to the data. A shared harness is broadcast to data-local agent deployments, each of which evolves it on its own workload. Only the resulting program adaptations are composed into an updated shared harness and redistributed, so that every participating agent inherits operational experience discovered by the others. By shifting the aggregation boundary from raw workloads to learned adaptations, EvolveNet keeps workloads local and allows multiple evolutionary searches to proceed concurrently with reduced serial depth. Because independently modified programs cannot be averaged like model parameters and may conflict when composed, EvolveNet introduces scope-typed, evidence-guided program aggregation. Across five settings spanning text-to-SQL, data-science coding, competitive programming, software engineering, and agentic workflows, EvolveNet improves the shared harness in all five, with the largest gains under heterogeneous workloads, and ablations attribute the improvement to composition of adaptations from different agents rather than to selecting among them.