이웃 변환기: 모노필리(Monophily) 인지 그래프 학습을 위한 전환 가능한 어텐션

Neighbourhood Transformer: Switchable Attention for Monophily-Aware Graph Learning

그래프 신경망(GNN)은 소셜 네트워크 분석, 화학 연구 및 컴퓨터 비전과 같은 다양한 공학 분야에서 널리 활용되고 있습니다. 그러나 GNN의 성능은 내재된 동질성(homophily) 가정 때문에 심각하게 저하될 수 있는데, 이는 서로 다른 노드가 자주 연결되는 이질 그래프(heterophilic graph)에서는 성립하지 않습니다. 본 연구에서는 그래프 학습의 이러한 근본적인 한계를 해결하기 위해, 실제 그래프의 최근에 발견된 모노필리(monophily) 특성에서 영감을 받아 새로운 패러다임인 이웃 변환기(Neighbourhood Transformer, NT)를 제안합니다. NT는 기존의 메시지 전달(message-passing) GNN과 달리, 중앙 노드로 메시지를 집계하는 대신 각 로컬 이웃 내에서 자체 어텐션을 적용합니다. 이러한 설계는 NT가 본질적으로 모노필리를 고려하도록 하며, 이론적으로 NT의 표현력은 기존의 메시지 전달 프레임워크보다 약하지 않음을 보장합니다. 또한, 실제 공학적 활용을 위해, NT의 공간 복잡성을 95% 이상 줄이고, 실행 시간을 최대 92.67%까지 감소시키는 전환 가능한 어텐션을 갖춘 이웃 분할 전략을 개발하여, NT의 적용 범위를 더 큰 그래프로 확장했습니다. 10개의 실제 데이터 세트(5개의 이질 그래프 및 5개의 동질 그래프)에 대한 광범위한 실험 결과, NT는 노드 분류 작업에서 현재 최고 성능을 보이는 모든 방법보다 우수한 성능을 보였으며, 이는 NT의 우수한 성능과 다양한 분야에 대한 적응성을 입증합니다. 본 연구의 전체 구현 코드는 https://github.com/cf020031308/MoNT 에서 공개되어 있으며, 이는 재현성 확보 및 산업적 활용을 용이하게 합니다.

Graph neural networks (GNNs) have been widely adopted in engineering applications such as social network analysis, chemical research and computer vision. However, their efficacy is severely compromised by the inherent homophily assumption, which fails to hold for heterophilic graphs where dissimilar nodes are frequently connected. To address this fundamental limitation in graph learning, we first draw inspiration from the recently discovered monophily property of real-world graphs, and propose Neighbourhood Transformers (NT), a novel paradigm that applies self-attention within every local neighbourhood instead of aggregating messages to the central node as in conventional message-passing GNNs. This design makes NT inherently monophily-aware and theoretically guarantees its expressiveness is no weaker than traditional message-passing frameworks. For practical engineering deployment, we further develop a neighbourhood partitioning strategy equipped with switchable attentions, which reduces the space consumption of NT by over 95% and time consumption by up to 92.67%, significantly expanding its applicability to larger graphs. Extensive experiments on 10 real-world datasets (5 heterophilic and 5 homophilic graphs) show that NT outperforms all current state-of-the-art methods on node classification tasks, demonstrating its superior performance and cross-domain adaptability. The full implementation code of this work is publicly available at https://github.com/cf020031308/MoNT to facilitate reproducibility and industrial adoption.