Magellan: AlphaEvolve를 활용한 새로운 컴파일러 최적화 휴리스틱의 자율적 발견

Magellan: Autonomous Discovery of Novel Compiler Optimization Heuristics with AlphaEvolve

최신 컴파일러는 최적화 과정을 안내하기 위해 수동으로 설계된 휴리스틱에 의존합니다. 이러한 사람이 설계한 규칙은 종종 최신 소프트웨어 및 하드웨어의 복잡성에 적응하는 데 어려움을 겪으며, 높은 유지 관리 부담을 초래합니다. 이러한 문제를 해결하기 위해, 저희는 실행 가능한 C++ 의사 결정 로직을 합성하여 컴파일러 패스 자체를 발전시키는 에이전트 기반 프레임워크인 Magellan을 제시합니다. Magellan은 LLM 코딩 에이전트와 진화적 탐색 및 자동 튜닝을 결합하여, 사용자가 제공하는 매크로 벤치마크에 대한 평가를 통해 생성, 평가, 개선의 폐쇄 루프를 구성하며, 기존 컴파일러에 직접 통합될 수 있는 간결한 휴리스틱을 생성합니다. 여러 생산 최적화 작업에서, Magellan은 전문가 수준의 기준과 일치하거나 능가하는 정책을 발견합니다. LLVM 함수 인라인 작업에서, Magellan은 이진 파일 크기 감소 및 전체 성능 측면에서 수십 년간의 수동 엔지니어링을 능가하는 새로운 휴리스틱을 합성합니다. 레지스터 할당 작업에서는, 대규모 워크로드에서 복잡하게 설계된 인간 규칙과 일치하는 간결한 우선순위 규칙을 학습합니다. 또한, LLVM을 넘어 더 적은 엔지니어링 노력으로 이식성을 보여주는 XLA 문제에 대한 초기 결과를 보고합니다.

Modern compilers rely on hand-crafted heuristics to guide optimization passes. These human-designed rules often struggle to adapt to the complexity of modern software and hardware and lead to high maintenance burden. To address this challenge, we present Magellan, an agentic framework that evolves the compiler pass itself by synthesizing executable C++ decision logic. Magellan couples an LLM coding agent with evolutionary search and autotuning in a closed loop of generation, evaluation on user-provided macro-benchmarks, and refinement, producing compact heuristics that integrate directly into existing compilers. Across several production optimization tasks, Magellan discovers policies that match or surpass expert baselines. In LLVM function inlining, Magellan synthesizes new heuristics that outperform decades of manual engineering for both binary-size reduction and end-to-end performance. In register allocation, it learns a concise priority rule for live-range processing that matches intricate human-designed policies on a large-scale workload. We also report preliminary results on XLA problems, demonstrating portability beyond LLVM with reduced engineering effort.