SOM: 구조적 원인 모델을 활용한 LLM 기반 에이전트의 구조화된 상대 모델링

SOM: Structured Opponent Modeling for LLM-based Agents via Structural Causal Model

다중 에이전트 및 게임 이론 환경에서, 대규모 언어 모델(LLM) 기반 에이전트는 상호 작용을 통해 상대방의 행동을 정확하게 예측하는 것이 기본적인 능력입니다. 기존 접근 방식은 종종 상대 모델링을 예측과 얽어 놓아, 암묵적인 문맥적 추론에 의존하며 동적인 상호 작용에서 적응성을 제한합니다. 이에, 본 연구에서는 상대 모델 구성과 상대 예측을 명확하게 분리하는 두 단계의 상대 모델링 프레임워크인 Structured Opponent Modeling (SOM)을 제안합니다. 구성 단계에서, SOM은 변수 간의 의존성을 표현하기 위한 그래프 기반 형식인 구조적 원인 모델(SCM)을 사용하여 상대방의 관찰과 행동 간의 방향성 있는 연결을 포착하여, 명시적이고 구조화된 상대 모델을 생성합니다. 예측 단계에서, LLM은 SCM에서 파생된 명확한 경로를 따라 구조화된 추론을 수행하여 예측 정확도와 안정성을 향상시킵니다. 다양한 다중 에이전트 벤치마크에 대한 광범위한 실험 결과, SOM은 최첨단 LLM 기반 추론 기준 성능을 지속적으로 능가하며, 복잡하고 동적인 다중 에이전트 상호 작용에서 더욱 정확하고 적응적인 전략적 의사 결정을 가능하게 합니다.

Accurately predicting opponents' behavior from interactions is a fundamental capability for large language model (LLM)-based agents in multi-agent and game-theoretic environments. Existing approaches often entangle opponent modeling with prediction, relying on implicit contextual reasoning and limiting adaptability in dynamic interactions. To this end, we propose Structured Opponent Modeling (SOM), a two-stage opponent modeling framework that distinctly separates opponent model construction and opponent prediction. At the construction stage, SOM employs a Structural Causal Model (SCM), a graph-based formalism for representing dependencies among variables, to capture directed links between opponents' observations and actions, yielding an explicit and structured opponent representation. At the prediction stage, the LLM performs structured reasoning along clear pathways derived from the SCM, improving both prediction accuracy and stability. Extensive experiments on diverse multi-agent benchmarks demonstrate that SOM consistently outperforms state-of-the-art LLM-based reasoning baselines, enabling more accurate and adaptable strategic decision-making in complex and dynamic multi-agent interactions.