GCFX: 딥 그래프 모델의 모델 수준에서의 생성적 반사실적 설명

GCFX: Generative Counterfactual Explanations for Deep Graph Models at the Model Level

딥 그래프 학습 모델은 그래프 구조의 데이터를 처리하는 데 탁월한 능력을 보여주며 다양한 분야에서 널리 활용되고 있습니다. 그러나 복잡한 내부 구조와 투명성 부족으로 인해 모델의 의사 결정 과정을 설명하기 어렵고, 이는 사용자가 이해하고 신뢰하기 어려운 불투명한 모델로 이어집니다. 본 논문에서는 딥 그래프 학습 모델에 대한 모델 수준의 설명 기법을 탐구하여, 사용자가 모델의 전반적인 의사 결정 과정과 기본 작동 원리를 종합적으로 이해할 수 있도록 돕는 것을 목표로 합니다. 특히, 딥 그래프 학습 모델에 대한 반사실적 설명 문제를 해결하기 위해, 딥 그래프 생성에 기반한 생성적 모델 수준의 반사실적 설명 방법인 GCFX를 제안합니다. 이 방법은 향상된 딥 그래프 생성 프레임워크와 글로벌 요약 알고리즘을 활용하여 모델의 전반적인 예측 행동을 반영하는 고품질의 반사실적 설명을 생성합니다. GCFX는 이중 인코더, 구조 인식 태거, 메시지 전달 신경망 디코더를 결합한 아키텍처를 특징으로 하며, 이를 통해 입력 데이터의 실제 잠재 분포를 정확하게 학습하고 고품질의 관련성이 높은 반사실적 예제를 생성할 수 있습니다. 또한, 글로벌 반사실적 요약 알고리즘은 수많은 후보 반사실적 설명 중에서 가장 대표적이고 포괄적인 설명을 선택하여, 모델의 전반적인 예측 패턴에 대한 폭넓은 통찰력을 제공합니다. 합성 데이터셋과 여러 실제 데이터셋에 대한 실험 결과, GCFX는 기존 방법보다 반사실적 설명의 유효성과 적용 범위 측면에서 우수한 성능을 보이며, 낮은 설명 비용을 유지하여, 글로벌 반사실적 설명의 실용성과 신뢰성을 향상시키는 데 중요한 지원을 제공합니다.

Deep graph learning models have demonstrated remarkable capabilities in processing graph-structured data and have been widely applied across various fields. However, their complex internal architectures and lack of transparency make it difficult to explain their decisions, resulting in opaque models that users find hard to understand and trust. In this paper, we explore model-level explanation techniques for deep graph learning models, aiming to provide users with a comprehensive understanding of the models' overall decision-making processes and underlying mechanisms. Specifically, we address the problem of counterfactual explanations for deep graph learning models by introducing a generative model-level counterfactual explanation approach called GCFX, which is based on deep graph generation. This approach generates a set of high-quality counterfactual explanations that reflect the model's global predictive behavior by leveraging an enhanced deep graph generation framework and a global summarization algorithm. GCFX features an architecture that combines dual encoders, structure-aware taggers, and Message Passing Neural Network decoders, enabling it to accurately learn the true latent distribution of input data and generate high-quality, closely related counterfactual examples. Subsequently, a global counterfactual summarization algorithm selects the most representative and comprehensive explanations from numerous candidate counterfactuals, providing broad insights into the model's global predictive patterns. Experiments on a synthetic dataset and several real-world datasets demonstrate that GCFX outperforms existing methods in terms of counterfactual validity and coverage while maintaining low explanation costs, thereby offering crucial support for enhancing the practicality and trustworthiness of global counterfactual explanations.