저장소 레벨 코드 생성에서의 지속적인 시도 간 상태 최적화

Persistent Cross-Attempt State Optimization for Repository-Level Code Generation

대규모 언어 모델(LLM)은 저장소 레벨 코드 생성 분야에서 상당한 발전을 이루었습니다. 그러나 동일한 저장소 레벨 작업을 해결하는 데 여러 번의 시도가 필요한 경우가 많으며, 기존 방법은 여전히 각 시도를 개별적으로 최적화하고, 시도 간에 작업 관련 정보를 보존하거나 재사용하지 않습니다. 본 논문에서는 저장소 레벨 코드 생성에 기반한 새로운 프레임워크인 LiveCoder를 제안합니다. LiveCoder는 이전 시도에서 얻은 지속적인 작업 관련 정보를 활용하여 후속 생성을 안내합니다. 이 정보에는 성공 지식(이전의 우수한 저장소에서 얻은 재사용 가능한 신호), 실패 지식(실패한 결과와 그 진단 신호 기록), 그리고 역사적으로 가장 좋은 저장소(지금까지 찾은 가장 강력한 결과를 보존하고 회귀 방지)가 포함됩니다. 이러한 요소들은 반복적인 저장소 생성을 지속적이고 지식 기반의 최적화 프로세스로 변환합니다. 우리는 두 가지 대표적인 저장소 레벨 코드 생성 벤치마크에서 네 가지 최첨단 LLM을 사용하여 LiveCoder를 평가했습니다. 광범위한 실험 결과는 LiveCoder의 효과성과 효율성을 입증했으며, 기능 점수는 최대 22.94% 포인트 향상되었고, 저장소 재사용률은 81.58% 증가했으며, RAL-Bench에서 비용은 최대 53.63% 절감되었습니다. 또한 비기능 품질은 전반적으로 안정적인 수준을 유지했습니다.

Large language models (LLMs) have achieved substantial progress in repository-level code generation. However, solving the same repository-level task often requires multiple attempts, while existing methods still optimize each attempt in isolation and do not preserve or reuse task-specific state across attempts. In this paper, we propose LiveCoder, a novel framework for repository-level code generation based on cross-attempt knowledge optimization. LiveCoder maintains persistent task-specific state from prior attempts to guide subsequent generation. This state includes success knowledge, which captures reusable signals from previously strong repositories, failure knowledge, which records unsuccessful outcomes and their diagnostic signals, and a historical-best repository, which preserves the strongest result found so far and prevents regression. These components collectively transform repeated repository generation into a persistent, knowledge-driven optimization process. We evaluate LiveCoder using four frontier LLMs on two representative repository-level code generation benchmarks. Extensive experimental results demonstrate the effectiveness and efficiency of LiveCoder, improving the functional score by up to 22.94 percentage points, increasing repository reuse to 81.58%, and reducing cost by up to 53.63% on RAL-Bench while maintaining broadly stable non-functional quality.