NodeImport: 노드 중요도 평가를 통한 불균형 노드 분류

NodeImport: Imbalanced Node Classification with Node Importance Assessment

실제 응용 분야에서 그래프 기반 노드 분류는 종종 클래스 불균형이라는 과제를 안고 있으며, 이는 학습 데이터 내 다수 클래스가 압도적으로 많아 모델 성능에 편향을 초래합니다. 기존의 GNN(Graph Neural Network)은 이러한 상황에서 어려움을 겪으며, 다수 클래스에는 과적합되는 반면 소수 클래스는 제대로 표현되지 않는 경향이 있습니다. 기존의 해결책들은 주로 클래스 크기를 기준으로 노드를 우선순위화하거나, 소수 클래스를 위한 새로운 노드를 생성하는 방법을 사용하지만, 이러한 방법들은 불균형 문제를 효과적으로 해결하지 못하는 경우가 많습니다. 본 논문에서는 편향되지 않은 환경에서 모델 성능을 향상시키는 노드를 중요한 것으로 간주하는 균형 잡힌 메타-셋을 활용하여 클래스 불균형 노드 분류 문제를 해결하는 방법을 제시합니다. 우리 방법은 클래스 불균형을 완화할 수 있는 중요한 노드를 식별하고, 이를 사용하여 모델 학습을 진행하며, 학습 과정 전반에 걸쳐 정교하고 동적인 노드 선택을 가능하게 합니다. 우리는 노드의 중요도를 직접적으로 평가하는 공식을 이론적으로 유도하여 계산 부담을 줄이고, 노드 선택을 위한 직관적인 기준을 제공합니다. 이 지표를 기반으로, 모델 성능을 향상시키는 가치 있는 labeled 노드, unlabeled 노드 및 synthetic 노드를 필터링하는 새로운 프레임워크를 개발했습니다. 이 프레임워크의 주요 장점은 synthetic 노드 생성 과정과 필터링 과정을 분리하여 다양한 노드 생성 방법과의 호환성을 보장한다는 것입니다. 또한, 전체 특징 분포를 정확하게 반영하여 각 클래스를 강력하게 표현할 수 있는 고품질 메타-셋을 구축하는 전략을 소개합니다. 저희는 NodeImport 프레임워크를 다양한 GNN 아키텍처를 사용하여 여러 데이터 세트에서 평가하고, 기존의 방법들보다 우수한 성능을 보임을 입증했습니다. 실험 결과는 저희 프레임워크가 클래스 불균형 문제를 완화하고 더 나은 결과를 달성하는 데 효과적이고 유연하다는 것을 보여줍니다.

In real-world applications, node classification on graphs often faces the challenge of class imbalance, where majority classes dominate training, resulting in biased model performance. Traditional GNNs often struggle in such scenarios, as they tend to overfit to majority classes while underrepresenting minority classes. Existing solutions, which either prioritize nodes based on class size or synthesize new nodes for minority classes, often fall short of effectively addressing this imbalance issue. This paper introduces an approach to class-imbalanced node classification by utilizing a balanced meta-set for importance measurement, where a training node is considered significant if it enhances model performance under an unbiased setting. Our method identifies important nodes that can counteract class imbalance and utilizes them for model training, allowing for fine-grained and dynamic node selection throughout the training process. We theoretically derive a formula to directly assess node importance, reducing computational overhead and providing an intuitive threshold for node selection. Guided by this metric, we develop a novel framework that filters valuable labeled, unlabeled, and synthetic nodes that enhance model performance in an unbiased context. A key advantage of this framework is its separation of the synthetic node generation process from the filtering process, ensuring compatibility with various node generation methods. Furthermore, we introduce a strategy to construct a high-quality meta-set that closely approximates the overall feature distribution, ensuring robust representation of each class. We evaluate our framework, NodeImport, across multiple datasets using popular GNN architectures, demonstrating its superiority over existing baselines. Our results highlight the flexibility and effectiveness of the framework in mitigating class imbalance, leading to improved outcomes.