SYMPHONY: 이종 언어 모델 조합을 통한 시너지 기반 다중 에이전트 플래닝

SYMPHONY: Synergistic Multi-agent Planning with Heterogeneous Language Model Assembly

최근의 연구들은 복잡한 문제 해결 작업을 위한 자율 에이전트를 구축하기 위해 거대 언어 모델(LLM)을 활용하는 데 점점 더 집중하고 있습니다. 그러나 기존의 접근 방식들은 몬테카를로 트리 탐색(MCTS) 플래닝 과정에서 탐색 분기(search branch)를 생성하고 보상을 추정하기 위해 주로 단일 에이전트 프레임워크를 사용합니다. 이러한 단일 에이전트 패러다임은 본질적으로 탐색 능력을 제한하여, 생성된 분기 간의 다양성 부족과 최적화되지 못한 플래닝 성능을 초래하는 경우가 많습니다. 이러한 한계를 극복하기 위해, 우리는 이종 언어 모델 기반 에이전트 풀을 통합하는 새로운 다중 에이전트 플래닝 프레임워크인 SYMPHONY(Synergistic Multi-agent Planning with Heterogeneous language model assembly)를 제안합니다. SYMPHONY는 에이전트 간의 다양한 추론 패턴을 활용하여 롤아웃(rollout)의 다양성을 높이고 보다 효과적인 탐색을 촉진합니다. 여러 벤치마크 작업에 대한 실증적 결과는 SYMPHONY가 소비자용 하드웨어에 배포 가능한 오픈 소스 LLM으로 구현될 때에도 강력한 성능을 발휘함을 보여줍니다. 또한 API를 통해 접근 가능한 클라우드 기반 LLM으로 강화될 경우, SYMPHONY는 더욱 향상된 성능을 입증하며 기존의 최신(SOTA) 베이스라인 모델들을 능가하였고, 이를 통해 플래닝 작업에서 이종 다중 에이전트 협력의 효과성을 확인하였습니다.

Recent advancements have increasingly focused on leveraging large language models (LLMs) to construct autonomous agents for complex problem-solving tasks. However, existing approaches predominantly employ a single-agent framework to generate search branches and estimate rewards during Monte Carlo Tree Search (MCTS) planning. This single-agent paradigm inherently limits exploration capabilities, often resulting in insufficient diversity among generated branches and suboptimal planning performance. To overcome these limitations, we propose Synergistic Multi-agent Planning with Heterogeneous langauge model assembly (SYMPHONY), a novel multi-agent planning framework that integrates a pool of heterogeneous language model-based agents. By leveraging diverse reasoning patterns across agents, SYMPHONY enhances rollout diversity and facilitates more effective exploration. Empirical results across multiple benchmark tasks show that SYMPHONY achieves strong performance even when instantiated with open-source LLMs deployable on consumer-grade hardware. When enhanced with cloud-based LLMs accessible via API, SYMPHONY demonstrates further improvements, outperforming existing state-of-the-art baselines and underscoring the effectiveness of heterogeneous multi-agent coordination in planning tasks.