DyTopo: 의미론적 매칭을 통한 다중 에이전트 추론용 동적 토폴로지 라우팅

DyTopo: Dynamic Topology Routing for Multi-Agent Reasoning via Semantic Matching

프롬프트된 대규모 언어 모델로 구축된 다중 에이전트 시스템은 다중 라운드 추론을 향상시킬 수 있으나, 기존 파이프라인 대부분은 반복적 문제 해결 과정의 단계별 요구 사항에 부합하지 않는 고정된 전체 궤적 통신 패턴에 의존하고 있습니다. 본 논문에서는 매 라운드 희소 방향 통신 그래프를 재구성하는 관리자 유도형 다중 에이전트 프레임워크인 DyTopo를 제안합니다. 관리자의 라운드 목표에 따라 각 에이전트는 경량 자연어 쿼리(need)와 키(offer) 설명자를 출력하며, DyTopo는 이를 임베딩하고 의미론적 매칭을 수행하여 생성된 엣지를 통해서만 프라이빗 메시지를 라우팅합니다. 코드 생성 및 수학적 추론 벤치마크와 4가지 LLM 백본에 걸친 실험 결과, DyTopo는 가장 강력한 베이스라인 대비 일관되게 우수한 성능(평균 +6.2)을 기록했습니다. 정확도 외에도 DyTopo는 변화하는 그래프를 통해 해석 가능한 조정 추적(coordination trace)을 제공하여, 라운드 진행에 따라 통신 경로가 어떻게 재구성되는지 정성적으로 분석할 수 있게 합니다.

Multi-agent systems built from prompted large language models can improve multi-round reasoning, yet most existing pipelines rely on fixed, trajectory-wide communication patterns that are poorly matched to the stage-dependent needs of iterative problem solving. We introduce DyTopo, a manager-guided multi-agent framework that reconstructs a sparse directed communication graph at each round. Conditioned on the manager's round goal, each agent outputs lightweight natural-language query (need) and \key (offer) descriptors; DyTopo embeds these descriptors and performs semantic matching, routing private messages only along the induced edges. Across code generation and mathematical reasoning benchmarks and four LLM backbones, DyTopo consistently outperforms over the strongest baseline (avg. +6.2). Beyond accuracy, DyTopo yields an interpretable coordination trace via the evolving graphs, enabling qualitative inspection of how communication pathways reconfigure across rounds.