X-SYS: 상호작용형 설명 시스템을 위한 참조 아키텍처

X-SYS: A Reference Architecture for Interactive Explanation Systems

설명 가능한 인공지능(XAI) 연구 커뮤니티는 수많은 기술적 방법론을 제안해 왔지만, 설명 가능성을 시스템으로서 배포하는 것은 여전히 어려운 과제입니다. 상호작용형 설명 시스템은 반복적인 쿼리, 진화하는 모델 및 데이터, 거버넌스 제약 조건 전반에서 설명의 유용성을 유지하는 적절한 알고리즘과 시스템 역량을 모두 필요로 하기 때문입니다. 우리는 XAI를 운영 환경에 구현하려면 설명 가능성을 정보 시스템 문제로 다루어야 하며, 이때 사용자의 상호작용 요구가 구체적인 시스템 요구사항을 도출한다고 주장합니다. 본 연구에서는 (X)AI 연구자, 개발자, 실무자들이 상호작용형 설명 사용자 인터페이스(XUI)와 시스템 역량을 연결하는 데 지침이 되는 상호작용형 설명 시스템을 위한 참조 아키텍처인 X-SYS를 소개합니다. X-SYS는 STAR(확장성, 추적성, 응답성, 적응성)라고 명명된 네 가지 품질 속성을 중심으로 구성되며, 다섯 가지 구성 요소(XUI 서비스, 설명 서비스, 모델 서비스, 데이터 서비스, 오케스트레이션 및 거버넌스)로 세분화됩니다. 이는 상호작용 패턴을 시스템 역량에 매핑하여 사용자 인터페이스의 발전과 백엔드 연산을 분리합니다. 우리는 비전-언어 모델에서의 시맨틱 검색 및 활성화 조정을 위한 시스템인 SemanticLens를 통해 X-SYS를 구현했습니다. SemanticLens는 계약 기반의 서비스 경계가 어떻게 독립적인 발전을 가능하게 하고, 오프라인/온라인 분리가 응답성을 보장하며, 영구적 상태 관리가 추적성을 지원하는지를 입증합니다. 종합하면, 본 연구는 운영상의 제약 하에서 엔드투엔드 설계를 지원하는 상호작용형 설명 시스템을 위한 재사용 가능한 청사진과 구체적인 구현 사례를 제공합니다.

The explainable AI (XAI) research community has proposed numerous technical methods, yet deploying explainability as systems remains challenging: Interactive explanation systems require both suitable algorithms and system capabilities that maintain explanation usability across repeated queries, evolving models and data, and governance constraints. We argue that operationalizing XAI requires treating explainability as an information systems problem where user interaction demands induce specific system requirements. We introduce X-SYS, a reference architecture for interactive explanation systems, that guides (X)AI researchers, developers and practitioners in connecting interactive explanation user interfaces (XUI) with system capabilities. X-SYS organizes around four quality attributes named STAR (scalability, traceability, responsiveness, and adaptability), and specifies a five-component decomposition (XUI Services, Explanation Services, Model Services, Data Services, Orchestration and Governance). It maps interaction patterns to system capabilities to decouple user interface evolution from backend computation. We implement X-SYS through SemanticLens, a system for semantic search and activation steering in vision-language models. SemanticLens demonstrates how contract-based service boundaries enable independent evolution, offline/online separation ensures responsiveness, and persistent state management supports traceability. Together, this work provides a reusable blueprint and concrete instantiation for interactive explanation systems supporting end-to-end design under operational constraints.