개별 지능을 넘어: LLM 기반 다중 에이전트 시스템에서의 협력, 오류 원인 분석, 그리고 자기 진화에 대한 연구

Beyond Individual Intelligence: Surveying Collaboration, Failure Attribution, and Self-Evolution in LLM-based Multi-Agent Systems

LLM 기반의 자율 에이전트는 추론, 계획, 도구 사용 등에서 강력한 능력을 보여주지만, 역할, 도구, 환경을 초월하는 지속적인 협조가 필요한 작업에서는 한계가 있습니다. 다중 에이전트 시스템은 전문화된 에이전트 간의 체계적인 협력을 통해 이러한 문제를 해결하지만, 더욱 긴밀한 협력은 덜 탐구된 위험을 증폭시킵니다. 즉, 오류가 에이전트와 상호 작용 단계를 거치면서 전파되어 진단하기 어렵고 구조적인 자기 개선으로 이어지지 않는 실패를 야기할 수 있습니다. 기존 연구들은 개별 에이전트 능력, 다중 에이전트 협력, 또는 에이전트 자기 진화를 개별적으로 다루고 있으며, 이들 간의 인과적 의존성을 검토하지 않습니다. 본 연구는 네 가지 인과적으로 연결된 단계를 중심으로 통합적인 검토를 제공하며, 이를 우리는 LIFE (Lay the capability foundation, Integrate agents through collaboration, Find faults through attribution, and Evolve through autonomous self-improvement) 진행이라고 명명합니다. 각 단계별로 체계적인 분류를 제시하고, 인접한 단계 간의 의존성을 형식적으로 규정하여, 각 단계가 어떻게 다음 단계에 영향을 미치고 제약을 가하는지 밝힙니다. 기존 연구를 종합하는 것 외에도, 단계 경계에서 발생하는 미해결 과제를 식별하고, 지속적으로 오류를 진단하고, 구조를 재구성하며, 에이전트 행동을 개선할 수 있는 폐쇄 루프 다중 에이전트 시스템을 위한 연구 과제를 제안합니다. 이는 현재의 협력 프레임워크를 더욱 자율적인 집단 지능 형태로 확장하는 것을 목표로 합니다. 본 연구는 이러한 이전에 분리되었던 연구 분야를 연결하여 체계적인 참고 자료이자 자율적이고 자기 개선적인 다중 에이전트 지능을 향한 개념적 로드맵을 제공하는 것을 목표로 합니다.

LLM-based autonomous agents have demonstrated strong capabilities in reasoning, planning, and tool use, yet remain limited when tasks require sustained coordination across roles, tools, and environments. Multi-agent systems address this through structured collaboration among specialized agents, but tighter coordination also amplifies a less explored risk: errors can propagate across agents and interaction rounds, producing failures that are difficult to diagnose and rarely translate into structural self-improvement. Existing surveys cover individual agent capabilities, multi-agent collaboration, or agent self-evolution separately, leaving the causal dependencies among them unexamined. This survey provides a unified review organized around four causally linked stages, which we term the LIFE progression: Lay the capability foundation, Integrate agents through collaboration, Find faults through attribution, and Evolve through autonomous self-improvement. For each stage, we provide systematic taxonomies and formally characterize the dependencies between adjacent stages, revealing how each stage both depends on and constrains the next. Beyond synthesizing existing work, we identify open challenges at stage boundaries and propose a cross-stage research agenda for closed-loop multi-agent systems capable of continuously diagnosing failures, reorganizing structures, and refining agent behaviors, extending current coordination frameworks toward more self-organizing forms of collective intelligence. By bridging these previously fragmented research threads, this survey aims to offer both a systematic reference and a conceptual roadmap toward autonomous, self-improving multi-agent intelligence.