AutoSG: 작업 프롬프트만으로 생성되는 LLM 기반 솔버 생성 시스템 - 고비용 최적화 문제 해결

AutoSG: LLM-Driven Solver Generation Solely from Task Prompts for Expensive Optimization

실제 응용 분야에서 흔히 나타나는 고비용 최적화 문제는 고도의 전문성을 요구하는 솔루션을 필요로 합니다. LLM(대규모 언어 모델) 기반의 자동 솔버 생성 기술은 가능성을 보여주지만, 현재 방식은 고비용 최적화 문제 해결 과정에서 다음과 같은 세 가지 중요한 어려움을 안고 있습니다: 부족한 도메인 지식으로 인한 사실 오류 발생, 개선 과정에서 이미 구축된 지역적으로 최적인 구조가 자주 파괴되는 현상, 그리고 훈련 데이터셋에서 실행하기 때문에 발생하는 높은 평가 비용 및 일반화 능력의 제한. 이러한 문제점을 해결하기 위해, 우리는 자연어 프롬프트를 직접 실행 가능한 맞춤형 솔버로 변환하는 완전 자동 워크플로우인 AutoSG를 소개합니다. AutoSG는 다음과 같은 세 가지 핵심 혁신을 특징으로 합니다: 검증된 문헌에 기반하여 코드를 엄격하게 연결하는 검색 증강 솔버 생성 모듈, 과제별 개선 사항을 도입하면서 중요한 구조적 요소를 유지하는 일회성 자체 개선 연산자, 그리고 인스턴스를 사용하지 않는 Elo-기반 LLM 평가 시스템으로 전역 순위를 신속하게 결정합니다. 다양한 고비용 최적화 문제에 대한 광범위한 실험 결과는 AutoSG가 인간이 설계한 최첨단 프레임워크 및 기존의 LLM 생성 솔버보다 훨씬 우수한 성능을 보임을 확인했습니다.

Expensive optimization tasks are ubiquitous in real-world applications, demanding highly specialized solvers. While LLM-driven automated solver generation shows promise, current paradigms face three critical issues when tackling expensive optimization: factual hallucinations due to deficient domain knowledge, the frequent dismantling of previously established locally optimal structures during refinement, and the prohibitive evaluation costs alongside restricted generalization caused by executing on training instances. To address these issues, we introduce AutoSG, a fully automated workflow directly translating natural language prompts into executable customized solvers. AutoSG features three core innovations: a retrieval-augmented solver generation module strictly grounding code in verified literature; a one-step self-refinement operator introducing task-specific improvements while preserving critical structural components; and an instance-free Elo-based LLM-as-a-Judge evaluation mechanism rapidly establishing global rankings. Extensive evaluations across diverse expensive optimization tasks confirm AutoSG significantly outperforms human-designed state-of-the-art frameworks and existing LLM-generated solvers.