GNN 설명에서 자기 불일치가 발생하는 이유와 이를 활용하는 방법

Why Self-Inconsistency Arises in GNN Explanations and How to Exploit It

최근 연구에서 Self-Interpretable Graph Neural Networks (SI-GNN)가 생성하는 설명이 자기 불일치를 보일 수 있다는 사실이 밝혀졌습니다. 즉, 모델이 자신의 설명 그래프 부분 집합에 다시 적용될 때, 다른 설명을 생성할 수 있습니다. 그러나 이러한 자기 불일치가 발생하는 원인은 아직 명확히 밝혀지지 않았습니다. 본 연구에서는 먼저, 재해석으로 인한 문맥 변화가 점수 변동의 직접적인 원인임을 확인했습니다. 또한, 특정 에지만이 이러한 변화에 민감하게 반응하는 이유를 설명하기 위해 잠재 신호 할당 가설을 제시하고, 간결성 규제화가 잠재 신호 할당에 미치는 영향을 분석했습니다. 자기 불일치를 보이는 에지가 모델의 예측에 대한 안정적인 증거를 제공하지 않는다는 점을 고려하여, 모델에 구애받지 않고 학습 없이 적용할 수 있는 후처리 전략인 Self-Denoising (SD)를 제안합니다. SD는 단 한 번의 추가적인 순전파 연산을 통해 설명을 보정합니다. 대표적인 SI-GNN 프레임워크, 기본 아키텍처 및 벤치마크 데이터 세트를 대상으로 한 실험 결과는 본 연구의 가설을 뒷받침하며, SD가 실제로 약 4~6%의 계산 오버헤드를 추가하면서 설명 품질을 꾸준히 향상시킴을 보여줍니다.

Recent work has observed that explanations produced by Self-Interpretable Graph Neural Networks (SI-GNNs) can be self-inconsistent: when the model is reapplied to its own explanatory graph subset, it may produce a different explanation. However, why self-inconsistency arises remains poorly understood. In this work, we first identify re-explanation-induced context perturbation as the direct cause of score variation. We then introduce a latent signal assignment hypothesis to explain why only some edges are sensitive to this perturbation, and analyze how conciseness regularization affects latent signal assignment. Given that self-inconsistent edges do not provide stable evidence for the model's prediction, we propose Self-Denoising (SD), a model-agnostic and training-free post-processing strategy that calibrates explanations with only one additional forward pass. Experiments across representative SI-GNN frameworks, backbone architectures, and benchmark datasets support our hypothesis and show that SD consistently improves explanation quality while adding only about 4--6\% computational overhead in practice.