LLM 기반 최적화 문제 정식화 및 코드 생성을 위한 표준 중간 표현(Canonical Intermediate Representation)

Canonical Intermediate Representation for LLM-based optimization problem formulation and code generation

자연어 설명으로부터 최적화 모델을 자동으로 정식화하는 것은 운용 과학(Operations Research) 분야에서 점점 더 주목받고 있지만, 현재의 LLM 기반 접근 방식은 복잡한 운영 규칙에 필요한 복합 제약 조건과 적절한 모델링 패러다임을 처리하는 데 어려움을 겪고 있습니다. 이러한 문제를 해결하기 위해, 우리는 문제 설명과 최적화 모델 사이에서 LLM이 명시적으로 생성하는 스키마인 표준 중간 표현(Canonical Intermediate Representation, CIR)을 소개합니다. CIR은 제약 조건 원형(archetypes)과 후보 모델링 패러다임을 통해 운영 규칙의 의미를 인코딩함으로써, 규칙의 논리를 수학적 구현으로부터 분리합니다. 새롭게 생성된 CIR 지식 베이스를 바탕으로, 우리는 문제 텍스트를 파싱하고 도메인 지식을 검색하여 CIR 구현을 합성하며 최적화 모델을 구체화하는 멀티 에이전트 파이프라인인 '규칙-제약 변환(Rule-to-Constraint, R2C)' 프레임워크를 개발했습니다. 규칙-제약 추론을 체계적으로 평가하기 위해, 풍부한 운영 규칙을 포함하여 새롭게 구축한 벤치마크와 기존 연구의 벤치마크에서 R2C를 테스트했습니다. 광범위한 실험 결과, R2C는 제안된 벤치마크에서 최고 수준(SOTA)의 정확도(47.2%)를 달성했음을 보여줍니다. 문헌에 있는 기존 벤치마크에서도 R2C는 상용 모델(예: GPT-5)의 성능에 근접하는 매우 경쟁력 있는 결과를 보여줍니다. 또한, 성찰(reflection) 메커니즘을 통해 R2C는 추가적인 성능 향상을 달성하고 일부 벤치마크에서 새로운 최고 기록을 세웠습니다.

Automatically formulating optimization models from natural language descriptions is a growing focus in operations research, yet current LLM-based approaches struggle with the composite constraints and appropriate modeling paradigms required by complex operational rules. To address this, we introduce the Canonical Intermediate Representation (CIR): a schema that LLMs explicitly generate between problem descriptions and optimization models. CIR encodes the semantics of operational rules through constraint archetypes and candidate modeling paradigms, thereby decoupling rule logic from its mathematical instantiation. Upon a newly generated CIR knowledge base, we develop the rule-to-constraint (R2C) framework, a multi-agent pipeline that parses problem texts, synthesizes CIR implementations by retrieving domain knowledge, and instantiates optimization models. To systematically evaluate rule-to-constraint reasoning, we test R2C on our newly constructed benchmark featuring rich operational rules, and benchmarks from prior work. Extensive experiments show that R2C achieves state-of-the-art accuracy on the proposed benchmark (47.2% Accuracy Rate). On established benchmarks from the literature, R2C delivers highly competitive results, approaching the performance of proprietary models (e.g., GPT-5). Moreover, with a reflection mechanism, R2C achieves further gains and sets new best-reported results on some benchmarks.