베이지안 최적화를 이용한 개방형 작업 탐색

Open-Ended Task Discovery via Bayesian Optimization

베이지안 최적화(BO)를 과학적 워크플로우에 적용할 때, 주요하면서도 종종 간과되는 불확실성의 원인은 바로 작업 자체입니다. 즉, 무엇을 최적화할 것인지, 그리고 어떻게 평가할 것인지를 정의하는 작업은 증거가 축적됨에 따라 변화할 수 있습니다. 본 연구에서는 Generate-Select-Refine (GSR)이라는 개방형 BO 프레임워크를 소개합니다. GSR은 작업 생성과 작업 최적화를 반복하며 작동합니다. 사용자가 제공한 초기 작업을 시작으로, GSR은 작업 획득 함수에 의해 스케줄링되면서, 거칠게 정의된 작업에서 세밀하게 정의된 작업으로 새로운 작업을 생성합니다. 궁극적으로 GSR은 최적의 작업에 대한 평가를 집중시키며, 단일 작업 BO에 비해 로그 스케일의 후회 오버헤드만을 발생시킵니다. 본 연구에서는 GSR을 신제품 개발, 화학 합성 확장, 알고리즘 분석, 특허 재활용 등 다양한 분야에 적용하여 기존의 LLM 기반 최적화 기법보다 우수한 성능을 보임을 확인했습니다.

When applying Bayesian optimization (BO) to scientific workflow, a major yet often overlooked source of uncertainty is the task itself -- namely, what to optimize and how to evaluate it -- which can evolve as evidence accumulates. We introduce Generate-Select-Refine (GSR), a open-ended BO framework that alternates between task generation and task optimization. Starting from a user-provided seed task, GSR generates new tasks in a coarse-to-fine manner while a task-acquisition function schedules optimization. Asymptotically, it concentrates evaluations on the best task, incurring only logarithmic regret overhead relative to single-task BO. We apply GSR to new product development, chemical synthesis scaling, algorithm analysis, and patent repurposing, where it outperforms existing LLM-based optimizers.