정량적 역할 명확성을 통한 다중 에이전트 협업에서의 역할 일관성 향상

Improving Role Consistency in Multi-Agent Collaboration via Quantitative Role Clarity

대규모 언어 모델(LLM) 기반 다중 에이전트 시스템에서, 역할 사양 불이행(즉, 할당된 역할의 정의된 책임과 제약 조건을 준수하지 못하고, 잠재적으로 다른 에이전트처럼 행동하는 현상)은 주요한 문제점이다. 본 논문에서는 이 문제를 해결하기 위해 역할 일관성을 향상시키는 정량적 역할 명확성 방법을 제안한다. 먼저, 에이전트의 행동 궤적과 역할 설명을 비교하는 역할 할당 행렬 $S(φ)=[s_{ij}(φ)]$를 구성한다. 여기서 $s_{ij}(φ)$는 $i$-번째 에이전트의 행동 궤적과 $j$-번째 에이전트의 역할 설명 사이의 의미적 유사성을 나타낸다. 다음으로, 역할 명확성 행렬 $M(φ)$를 $ ext{softmax}(S(φ))-I$로 정의하며, 여기서 $ ext{softmax}(S(φ))$는 $S(φ)$의 행 단위 소프트맥스 값이고 $I$는 단위 행렬이다. $M(φ)$의 Frobenius norm은 에이전트의 역할 설명과 행동 궤적 사이의 정렬 정도를 나타낸다. 또한, 본 논문에서는 경량 미세 조정 과정에서 역할 명확성 행렬을 정규화기로 사용하여 역할 일관성을 향상시키고, 이를 통해 전체적인 작업 성능을 개선한다. ChatDev 다중 에이전트 시스템에 대한 실험 결과, 제안하는 방법은 역할 일관성과 작업 성능을 크게 향상시킨다. Qwen과 Llama 모델을 사용하여 측정한 결과, 역할 위반율은 각각 46.4%에서 8.4%로, 43.4%에서 0.2%로 감소했으며, 역할 명확성 점수는 각각 0.5328에서 0.9097로, 0.5007에서 0.8530로 증가했으며, 작업 성공률은 각각 0.6769에서 0.6909로, 0.6174에서 0.6763로 증가했다.

In large language model (LLM)-driven multi-agent systems, disobey role specification (failure to adhere to the defined responsibilities and constraints of an assigned role, potentially leading to an agent behaving like another) is a major failure mode \cite{DBLP:journals/corr/abs-2503-13657}. To address this issue, in the present paper, we propose a quantitative role clarity to improve role consistency. Firstly, we construct a role assignment matrix $S(φ)=[s_{ij}(φ)]$, where $s_{ij}(φ)$ is the semantic similarity between the $i$-th agent's behavior trajectory and the $j$-th agent's role description. Then we define role clarity matrix $M(φ)$ as $\text{softmax}(S(φ))-I$, where $\text{softmax}(S(φ))$ is a row-wise softmax of $S(φ)$ and $I$ is the identity matrix. The Frobenius norm of $M(φ)$ quantifies the alignment between agents' role descriptions and their behaviors trajectory. Moreover, we employ the role clarity matrix as a regularizer during lightweight fine-tuning to improve role consistency, thereby improving end-to-end task performance. Experiments on the ChatDev multi-agent system show that our method substantially improves role consistency and task performance: with Qwen and Llama, the role overstepping rate decreases from $46.4\%$ to $8.4\%$ and from $43.4\%$ to $0.2\%$, respectively, and the role clarity score increases from $0.5328$ to $0.9097$ and from $0.5007$ to $0.8530$, respectively, the task success rate increases from $0.6769$ to $0.6909$ and from $0.6174$ to $0.6763$, respectively.