Mirror: AI 기반 윤리 심의 지원을 위한 다중 에이전트 시스템

Mirror: A Multi-Agent System for AI-Assisted Ethics Review

윤리 심의는 현대 연구 거버넌스의 핵심 메커니즘이지만, 대규모 및 학제간 과학 연구의 구조적 결과로 인해 윤리적 위험이 증가함에 따라 기존 시스템에 부담이 가중되고 있습니다. 다양한 위험 요인을 고려한 일관성 있고 타당한 의사 결정을 요구하는 상황은 기관의 심의 역량의 한계를 드러내며, 윤리 감독의 정당성에 대한 문제는 아닙니다. 최근 대규모 언어 모델(LLM)의 발전은 윤리 심의를 지원할 수 있는 새로운 기회를 제공하지만, 직접적인 활용은 부족한 윤리적 추론 능력, 규제 구조와의 미흡한 통합, 그리고 실제 심의 자료에 대한 엄격한 개인 정보 보호 제약으로 인해 제한됩니다. 본 연구에서는 윤리적 추론, 구조화된 규칙 해석, 그리고 다중 에이전트 토론을 통합한 AI 기반 윤리 심의 프레임워크인 Mirror를 소개합니다. Mirror의 핵심은 EthicsLLM이라는 기반 모델로, 이는 권위 있는 윤리 및 규제 자료에서 추출한 41,000개의 질문-사고 과정-답변 묶음 데이터셋인 EthicsQA를 기반으로 미세 조정되었습니다. EthicsLLM은 상세한 규범 및 규제 이해를 제공하여 Mirror가 두 가지 상호 보완적인 방식으로 작동할 수 있도록 합니다. Mirror-ER (간소화된 심의)는 실행 가능한 규칙 기반을 통해 최소 위험 연구에 대한 효율적이고 투명한 준수 검사를 자동화합니다. Mirror-CR (위원회 심의)는 전문가 에이전트, 윤리 사무 담당 에이전트, 그리고 연구 책임자 에이전트 간의 조정된 상호 작용을 통해 위원회 수준의 구조화된 평가를 10가지 윤리적 측면에서 수행합니다. 실험 결과, Mirror는 강력한 범용 LLM과 비교했을 때 윤리 평가의 품질, 일관성 및 전문성을 크게 향상시키는 것으로 나타났습니다.

Ethics review is a foundational mechanism of modern research governance, yet contemporary systems face increasing strain as ethical risks arise as structural consequences of large-scale, interdisciplinary scientific practice. The demand for consistent and defensible decisions under heterogeneous risk profiles exposes limitations in institutional review capacity rather than in the legitimacy of ethics oversight. Recent advances in large language models (LLMs) offer new opportunities to support ethics review, but their direct application remains limited by insufficient ethical reasoning capability, weak integration with regulatory structures, and strict privacy constraints on authentic review materials. In this work, we introduce Mirror, an agentic framework for AI-assisted ethical review that integrates ethical reasoning, structured rule interpretation, and multi-agent deliberation within a unified architecture. At its core is EthicsLLM, a foundational model fine-tuned on EthicsQA, a specialized dataset of 41K question-chain-of-thought-answer triples distilled from authoritative ethics and regulatory corpora. EthicsLLM provides detailed normative and regulatory understanding, enabling Mirror to operate in two complementary modes. Mirror-ER (expedited Review) automates expedited review through an executable rule base that supports efficient and transparent compliance checks for minimal-risk studies. Mirror-CR (Committee Review) simulates full-board deliberation through coordinated interactions among expert agents, an ethics secretary agent, and a principal investigator agent, producing structured, committee-level assessments across ten ethical dimensions. Empirical evaluations demonstrate that Mirror significantly improves the quality, consistency, and professionalism of ethics assessments compared with strong generalist LLMs.