AdaEvolve: 적응형 LLM 기반 영차 최적화

AdaEvolve: Adaptive LLM Driven Zeroth-Order Optimization

자동화된 프로그램 생성의 패러다임은 단발성 생성에서 추론 시간 검색으로 이동하고 있으며, 여기서 대형 언어 모델(LLM)은 진화 루프 내에서 의미론적 변이 연산자로 기능한다. 이러한 시스템은 효과적이긴 하지만, 현재 탐색 과정의 비고정적(non-stationary) 역학을 고려하지 못하는 정적 스케줄에 의해 제어된다. 이러한 경직성은 유망한 영역이 충분히 활용되지 못하는 반면 정체된 개체군에는 자원이 무분별하게 할당되게 하여 상당한 연산 낭비를 초래한다. 우리는 LLM 기반 진화를 계층적 적응형 최적화 문제로 재구성하는 프레임워크인 AdaEvolve를 소개한다. AdaEvolve는 세 가지 수준에 걸친 결정을 통합하기 위해 "누적 개선 신호"를 사용한다. 이 세 가지 수준은 해결책 후보 개체군 내에서 탐색 강도를 동적으로 조절하는 국소 적응(Local Adaptation), 밴딧(bandit) 기반 스케줄링을 통해 여러 해결책 후보 개체군에 전체 자원 예산을 분배하는 전역 적응(Global Adaptation), 그리고 진행이 정체되었을 때 이전에 생성된 해결책과 그 개선도를 바탕으로 새로운 해결책 전술을 생성하는 메타 가이드(Meta-Guidance)이다. 우리는 AdaEvolve가 조합, 시스템 최적화, 알고리즘 설계 문제를 포함한 185개의 다양한 개방형 최적화 문제에서 오픈소스 베이스라인 모델들의 성능을 일관되게 능가함을 입증한다.

The paradigm of automated program generation is shifting from one-shot generation to inference-time search, where Large Language Models (LLMs) function as semantic mutation operators within evolutionary loops. While effective, these systems are currently governed by static schedules that fail to account for the non-stationary dynamics of the search process. This rigidity results in substantial computational waste, as resources are indiscriminately allocated to stagnating populations while promising frontiers remain under-exploited. We introduce AdaEvolve, a framework that reformulates LLM-driven evolution as a hierarchical adaptive optimization problem. AdaEvolve uses an "accumulated improvement signal" to unify decisions across three levels: Local Adaptation, which dynamically modulates the exploration intensity within a population of solution candidates; Global Adaptation, which routes the global resource budget via bandit-based scheduling across different solution candidate populations; and Meta-Guidance which generates novel solution tactics based on the previously generated solutions and their corresponding improvements when the progress stalls. We demonstrate that AdaEvolve consistently outperforms the open-sourced baselines across 185 different open-ended optimization problems including combinatorial, systems optimization and algorithm design problems.