탐색 학습: 정책 기반 이상치 합성 - 그래프 데이터의 분포 외 탐지

Learning to Explore: Policy-Guided Outlier Synthesis for Graph Out-of-Distribution Detection

그래프 신경망의 안전성과 신뢰성을 확보하기 위해서는 분포 외(out-of-distribution, OOD) 그래프를 탐지하는 것이 매우 중요합니다. 비지도 그래프 레벨 OOD 탐지에서 모델은 일반적으로 분포 내(in-distribution, ID) 데이터만 사용하여 훈련되므로, 특징 공간의 불완전한 표현과 약한 결정 경계를 초래합니다. 이상치를 합성하는 것은 유망한 해결책이지만, 기존 접근 방식은 고정된, 적응형이 아닌 샘플링 휴리스틱(예: 거리 또는 밀도 기반)에 의존하여 정보적인 OOD 영역을 탐색하는 능력을 제한합니다. 본 논문에서는 정적 휴리스틱을 학습된 탐색 전략으로 대체하는 정책 기반 이상치 합성(Policy-Guided Outlier Synthesis, PGOS) 프레임워크를 제안합니다. 구체적으로, PGOS는 강화 학습 에이전트를 훈련하여 구조화된 잠재 공간에서 낮은 밀도 영역을 탐색하고, OOD 결정 경계를 가장 효과적으로 개선하는 표현을 샘플링합니다. 이러한 표현은 고품질의 가짜 OOD 그래프로 디코딩되어 탐지기의 견고성을 향상시킵니다. 광범위한 실험 결과, PGOS는 여러 그래프 OOD 및 이상 탐지 벤치마크에서 최첨단 성능을 달성함을 보여줍니다.

Detecting out-of-distribution (OOD) graphs is crucial for ensuring the safety and reliability of Graph Neural Networks. In unsupervised graph-level OOD detection, models are typically trained using only in-distribution (ID) data, resulting in incomplete feature space characterization and weak decision boundaries. Although synthesizing outliers offers a promising solution, existing approaches rely on fixed, non-adaptive sampling heuristics (e.g., distance- or density-based), limiting their ability to explore informative OOD regions. We propose a Policy-Guided Outlier Synthesis (PGOS) framework that replaces static heuristics with a learned exploration strategy. Specifically, PGOS trains a reinforcement learning agent to navigate low-density regions in a structured latent space and sample representations that most effectively refine the OOD decision boundary. These representations are then decoded into high-quality pseudo-OOD graphs to improve detector robustness. Extensive experiments demonstrate that PGOS achieves state-of-the-art performance on multiple graph OOD and anomaly detection benchmarks.