알고리즘 코드 최적화를 위한 제어된 자기 진화

Controlled Self-Evolution for Algorithmic Code Optimization

자기 진화 방법은 반복적인 "생성-검증-개선" 과정을 통해 코드 생성을 향상시키지만, 기존 방식은 낮은 탐색 효율성으로 인해 제한된 자원 내에서 더 우수한 복잡도를 갖는 솔루션을 발견하는 데 어려움을 겪습니다. 이러한 비효율성은 초기 설정의 편향으로 인해 진화가 좋지 않은 솔루션 영역에 갇히거나, 피드백 지침이 없는 제어되지 않은 확률적 연산, 그리고 다양한 작업 간의 경험 활용 부족에서 비롯됩니다. 이러한 문제점을 해결하기 위해, 우리는 세 가지 핵심 구성 요소를 갖는 제어된 자기 진화(Controlled Self-Evolution, CSE)를 제안합니다. 다변화된 계획 초기화는 다양한 구조적 알고리즘 전략을 생성하여 넓은 솔루션 공간을 탐색합니다. 유전적 진화는 확률적 연산을 피드백 기반 메커니즘으로 대체하여, 목표 지향적인 돌연변이와 조합형 교차를 가능하게 합니다. 계층적 진화 메모리는 작업 간 및 작업 내 수준에서 성공적인 경험과 실패한 경험 모두를 기록합니다. EffiBench-X 데이터셋에 대한 실험 결과, CSE는 다양한 LLM 백본에서 모든 기준 모델보다 일관되게 뛰어난 성능을 보였습니다. 또한, CSE는 초기 세대부터 더 높은 효율성을 달성하고 진화 과정 전반에 걸쳐 지속적인 개선을 유지합니다. 저희 코드는 https://github.com/QuantaAlpha/EvoControl 에서 공개적으로 이용 가능합니다.

Self-evolution methods enhance code generation through iterative "generate-verify-refine" cycles, yet existing approaches suffer from low exploration efficiency, failing to discover solutions with superior complexity within limited budgets. This inefficiency stems from initialization bias trapping evolution in poor solution regions, uncontrolled stochastic operations lacking feedback guidance, and insufficient experience utilization across tasks. To address these bottlenecks, we propose Controlled Self-Evolution (CSE), which consists of three key components. Diversified Planning Initialization generates structurally distinct algorithmic strategies for broad solution space coverage. Genetic Evolution replaces stochastic operations with feedback-guided mechanisms, enabling targeted mutation and compositional crossover. Hierarchical Evolution Memory captures both successful and failed experiences at inter-task and intra-task levels. Experiments on EffiBench-X demonstrate that CSE consistently outperforms all baselines across various LLM backbones. Furthermore, CSE achieves higher efficiency from early generations and maintains continuous improvement throughout evolution. Our code is publicly available at https://github.com/QuantaAlpha/EvoControl.