기초 최적화 임베딩에서 학습된 내용을 비지도 SAT 표현으로 전이 학습

Transfer Learning from Foundational Optimization Embeddings to Unsupervised SAT Representations

최근, 기초 최적화 임베딩은 혼합 정수 프로그래밍(MIP) 문제에 대한 강력한 사전 학습된 표현으로 등장했습니다. 이러한 임베딩은 도메인 간 전이 학습을 가능하게 하고 솔버가 생성한 레이블에 대한 의존성을 줄이는 것으로 나타났습니다. 본 연구에서는 이러한 표현이 최적화 영역을 넘어 의사 결정 문제, 특히 불리언 만족가능성(SAT) 문제로 일반화될 수 있는지 조사합니다. 우리는 기초 최적화 아키텍처를 SAT 문제에 적용하기 위해 CNF 공식을 MIP 문제에 사용되는 동일한 양방향 제약 조건-변수 그래프 표현으로 매핑합니다. 이를 통해 사전 학습된 임베딩 모델을 아키텍처 변경이나 지도 학습 방식의 추가 튜닝 없이 직접 재사용할 수 있습니다. 우리의 결과는 이러한 임베딩이 SAT 인스턴스의 구조적 정규성을 포착하며, 인스턴스 클러스터링 및 분포 식별과 같은 비지도 학습 작업에 도움이 된다는 것을 보여줍니다. 우리는 최초로 기초 최적화 임베딩이 제약 조건 만족 영역으로 전이될 수 있음을 입증합니다. 우리의 연구 결과는 최적화 및 의사 결정 문제 모두에 대한 통합된 표현 프레임워크로 나아가는 중요한 단계입니다.

Foundational optimization embeddings have recently emerged as powerful pre-trained representations for mixed-integer programming (MIP) problems. These embeddings were shown to enable cross-domain transfer and reduce reliance on solver-generated labels. In this work, we investigate whether such representations generalize beyond optimization to decision problems, focusing on Boolean satisfiability (SAT). We adapt the foundational optimization architecture to SAT by mapping CNF formulas into the same bipartite constraint-variable graph representation used for MIPs. This allows direct reuse of the pre-trained embedding model without architectural changes or supervised fine-tuning. Our results show that these embeddings capture structural regularities in SAT instances and support unsupervised tasks such as instance clustering and distribution identification. We demonstrate, for the first time, that foundational optimization embeddings can transfer to constraint satisfaction domains. Our findings is a step toward a unified representational framework for both optimization and decision problems.