XGRAG: 지식 그래프 기반 검색 증강 생성 모델에 대한 설명 프레임워크

XGRAG: A Graph-Native Framework for Explaining KG-based Retrieval-Augmented Generation

지식 그래프(KG)를 활용하여 대규모 언어 모델(LLM)에 구조적이고 의미적으로 일관된 맥락을 제공함으로써 더욱 정확한 답변을 생성하는 Graph-based Retrieval-Augmented Generation (GraphRAG)은 기존 RAG 방식을 확장합니다. 그러나 GraphRAG의 추론 과정은 여전히 블랙박스이며, 이는 특정 구조적 지식이 최종 결과에 어떤 영향을 미치는지 이해하는 데 어려움을 야기합니다. 기존 RAG 시스템에 대한 설명 가능성(XAI) 방법은 주로 텍스트 기반 검색에 초점을 맞추어 지식 구성 요소 간의 관계 구조를 통해 LLM의 응답을 해석하는 데 한계가 있으며, 이는 투명성과 신뢰성에 중요한 격차를 만듭니다. 이러한 문제를 해결하기 위해, 우리는 XGRAG라는 새로운 프레임워크를 소개합니다. XGRAG는 그래프 기반의 교란 전략을 사용하여 GraphRAG 시스템에 대한 인과적으로 근거한 설명을 생성하며, 이를 통해 개별 그래프 구성 요소가 모델 답변에 기여하는 정도를 정량화합니다. 우리는 XGRAG를 표준 RAG 시스템에 대한 XAI 기준인 RAG-Ex와 비교하는 광범위한 실험을 수행하고, 다양한 질문 유형, 스토리 구조 및 LLM에 대한 견고성을 평가했습니다. 우리의 결과는 NarrativeQA, FairyTaleQA, 및 TriviaQA 데이터셋에서 생성된 설명과 원래 답변 간의 일치도를 측정하는 F1-score를 사용하여 평가했을 때, XGRAG가 RAG-Ex 기준보다 설명 품질이 14.81% 향상되었음을 보여줍니다. 또한, XGRAG의 설명은 그래프 중심성 척도와 강한 상관관계를 나타내어, 그래프 구조를 정확하게 반영하는 능력을 검증합니다. XGRAG는 투명하고 그래프 기반의 설명을 통해 RAG 시스템의 해석 가능성을 향상시키고, 신뢰할 수 있는 AI를 위한 확장 가능하고 일반화 가능한 접근 방식을 제공합니다.

Graph-based Retrieval-Augmented Generation (GraphRAG) extends traditional RAG by using knowledge graphs (KGs) to give large language models (LLMs) a structured, semantically coherent context, yielding more grounded answers. However, GraphRAG reasoning process remains a black-box, limiting our ability to understand how specific pieces of structured knowledge influence the final output. Existing explainability (XAI) methods for RAG systems, designed for text-based retrieval, are limited to interpreting an LLM response through the relational structures among knowledge components, creating a critical gap in transparency and trustworthiness. To address this, we introduce XGRAG, a novel framework that generates causally grounded explanations for GraphRAG systems by employing graph-based perturbation strategies, to quantify the contribution of individual graph components on the model answer. We conduct extensive experiments comparing XGRAG against RAG-Ex, an XAI baseline for standard RAG, and evaluate its robustness across various question types, narrative structures and LLMs. Our results demonstrate a 14.81% improvement in explanation quality over the baseline RAG-Ex across NarrativeQA, FairyTaleQA, and TriviaQA, evaluated by F1-score measuring alignment between generated explanations and original answers. Furthermore, XGRAG explanations exhibit a strong correlation with graph centrality measures, validating its ability to capture graph structure. XGRAG provides a scalable and generalizable approach towards trustworthy AI through transparent, graph-based explanations that enhance the interpretability of RAG systems.