CIA: LLM 기반 다중 에이전트 시스템으로부터 통신 토폴로지 추론

CIA: Inferring the Communication Topology from LLM-based Multi-Agent Systems

LLM 기반 다중 에이전트 시스템(MAS)은 복잡한 문제를 해결하는 데 뛰어난 능력을 보여주었습니다. MAS의 핵심은 에이전트들이 정보를 교환하는 방식을 규정하는 통신 토폴로지입니다. 따라서 통신 토폴로지의 보안은 점점 더 중요한 관심사로 떠오르고 있습니다. 본 논문에서는 중요한 개인 정보 보호 위험을 조사합니다. 즉, 제한적인 블랙박스 환경에서도 MAS의 통신 토폴로지를 추론할 수 있으며, 이는 시스템의 취약점을 노출시키고 심각한 지적 재산권 위협을 초래할 수 있습니다. 이러한 위험을 탐구하기 위해, 우리는 새로운 공격 방법인 Communication Inference Attack (CIA)를 제안합니다. CIA는 적대적인 쿼리를 생성하여 중간 에이전트의 추론 결과를 유도하고, 제안된 전역 편향 분리 및 LLM 기반 약한 감독 학습을 통해 이러한 추론 결과의 의미적 상관관계를 모델링합니다. 최적화된 통신 토폴로지를 가진 MAS에 대한 광범위한 실험을 통해 CIA의 효과성을 입증했으며, 평균 AUC는 0.87, 최고 AUC는 0.99에 달했습니다. 이는 MAS에서 상당한 개인 정보 보호 위험이 존재함을 보여줍니다.

LLM-based Multi-Agent Systems (MAS) have demonstrated remarkable capabilities in solving complex tasks. Central to MAS is the communication topology which governs how agents exchange information internally. Consequently, the security of communication topologies has attracted increasing attention. In this paper, we investigate a critical privacy risk: MAS communication topologies can be inferred under a restrictive black-box setting, exposing system vulnerabilities and posing significant intellectual property threats. To explore this risk, we propose Communication Inference Attack (CIA), a novel attack that constructs new adversarial queries to induce intermediate agents' reasoning outputs and models their semantic correlations through the proposed global bias disentanglement and LLM-guided weak supervision. Extensive experiments on MAS with optimized communication topologies demonstrate the effectiveness of CIA, achieving an average AUC of 0.87 and a peak AUC of up to 0.99, thereby revealing the substantial privacy risk in MAS.