다중 에이전트 LLM 모델은 서로를 탐색하지 못한다

Multi-Agent LLMs Fail to Explore Each Other

다중 에이전트 시스템에서 신뢰할 수 있는 자율성을 확보하기 위해서는 탐색이 필수적이지만, 대규모 언어 모델(LLM) 기반 에이전트들이 서로 상호 작용할 때 효과적으로 탐색을 수행하는지에 대해서는 아직 명확하지 않습니다. 본 연구에서는 최신 LLM 기반 에이전트들이 이러한 탐색을 제대로 수행하지 못하며, 종종 단기적인 시각과 극단적인 패턴으로 인해 최적의 협업을 달성하지 못하고 후회를 증가시킨다는 것을 보여줍니다. 우리는 이 문제를 '다중 에이전트 탐색(Multi-Agent Exploration)' 문제로 정의하고, 각 에이전트가 동료들의 능력을 추론하고 효과적인 상호 작용 전략을 파악하기 위해 서로를 탐색해야 하는 부분 관측 확률 게임(Partially Observable Stochastic Game, POSG)으로 모델링합니다. 이러한 문제를 해결하기 위해, 우리는 구조화된 동료 선택을 통해 명시적으로 탐색을 장려하는 경량 프레임워크인 '다중 에이전트 컨텍스트 탐색(Multi-Agent Contextual Exploration, MACE)'를 제안합니다. 다양한 상황 설정에서 MACE는 탐색 행동과 후속 작업 성능을 크게 향상시킵니다. 또한, 이론적으로 에이전트의 다양성이 증가함에 따라 탐색의 가치가 높아진다는 것을 보여줍니다. 전반적으로, 본 연구 결과는 현재 LLM 기반 에이전트의 근본적인 한계를 강조하며, 신뢰할 수 있는 다중 에이전트 자율성을 위한 명시적인 탐색 유도의 중요성을 부각합니다. 관련 코드는 https://github.com/deeplearning-wisc/mace 에서 공개될 예정입니다.

Exploration is essential for reliable autonomy in multi-agent systems, yet it remains unclear whether large language model (LLM) agents can explore effectively when interacting with one another. We show that modern LLM agents fail to do so, often exhibiting myopic and polarized interaction patterns that lead to suboptimal coordination and increased regret. We formalize this challenge as the Multi-Agent Exploration problem, modeling it as a partially observable stochastic game (POSG) problem in which agents must probe peers to infer their capabilities and identify effective interaction strategies. To address this, we introduce Multi- Agent Contextual Exploration (MACE), a lightweight framework that explicitly promotes exploration through structured peer selection. Across both contextual and parametric diversity settings, MACE substantially improves exploration behavior and downstream task performance. We further show theoretically that the value of exploration increases with agent diversity. Overall, our results highlight a fundamental limitation of current LLM agents and underscore the importance of explicitly guided exploration for reliable multi-agent autonomy. Code will be released in https://github.com/deeplearning-wisc/mace