최적 수송 기반 적대적 공격을 통한 그래프 신경망 기반 봇 탐지 시스템

Optimal Transport-Guided Adversarial Attacks on Graph Neural Network-Based Bot Detection

소셜 미디어 상의 봇 계정 증가는 공론에 심각한 위협을 초래합니다. 이러한 위협에 대응하기 위해, 현대적인 봇 탐지 시스템은 점점 더 그래프 신경망(GNN)에 의존하고 있습니다. 그러나, 실제 환경에서의 GNN 기반 탐지 시스템의 효과성은 아직 제대로 알려져 있지 않습니다. 실제로 공격자들은 지속적으로 전략을 변화시키며, 특정 도메인 및 시간 제약 하에서 활동해야 하므로, 기존 공격 방법의 적용 가능성이 근본적으로 제한될 수 있습니다. 따라서, 현실적인 제약 조건을 고려한 공격 시나리오에서 견고한 GNN 기반 봇 탐지 방법의 필요성이 매우 중요합니다. 이러한 문제점을 해결하기 위해, 우리는 GNN 기반 소셜 봇 탐지 시스템의 견고성을 현실적인 제약 조건 하에서 엣지 편집 및 노드 주입 적대적 공격을 통해 체계적으로 평가하는 BOCLOAK를 소개합니다. BOCLOAK는 시공간적 이웃 특징에 대한 확률 분포를 구성하고, 인간과 봇의 행동을 구분하는 최적 수송 기하학을 학습합니다. 그런 다음, 최적 수송 계획을 희소하고 현실적인 엣지 편집으로 변환하여 탐지를 회피하면서 실제 제약 조건을 준수합니다. 우리는 세 개의 소셜 봇 데이터셋, 다섯 개의 최첨단 봇 탐지 시스템, 세 개의 적대적 방어 기법을 사용하여 BOCLOAK를 평가하고, 네 가지 주요 그래프 적대적 공격 기준과 비교합니다. BOCLOAK는 현실적인 제약 조건 하에서 최대 80.13% 더 높은 공격 성공률을 달성하면서 GPU 메모리 사용량을 99.80% 줄입니다. 무엇보다 중요한 점은, BOCLOAK는 최적 수송이 적대적 공격과 실제 봇 탐지 사이의 격차를 해소하는 가볍고 체계적인 프레임워크를 제공한다는 것을 보여줍니다.

The rise of bot accounts on social media poses significant risks to public discourse. To address this threat, modern bot detectors increasingly rely on Graph Neural Networks (GNNs). However, the effectiveness of these GNN-based detectors in real-world settings remains poorly understood. In practice, attackers continuously adapt their strategies as well as must operate under domain-specific and temporal constraints, which can fundamentally limit the applicability of existing attack methods. As a result, there is a critical need for robust GNN-based bot detection methods under realistic, constraint-aware attack scenarios. To address this gap, we introduce BOCLOAK to systematically evaluate the robustness of GNN-based social bot detection via both edge editing and node injection adversarial attacks under realistic constraints. BOCLOAK constructs a probability measure over spatio-temporal neighbor features and learns an optimal transport geometry that separates human and bot behaviors. It then decodes transport plans into sparse, plausible edge edits that evade detection while obeying real-world constraints. We evaluate BOCLOAK across three social bot datasets, five state-of-the-art bot detectors, three adversarial defenses, and compare it against four leading graph adversarial attack baselines. BOCLOAK achieves up to 80.13% higher attack success rates while using 99.80% less GPU memory under realistic real-world constraints. Most importantly, BOCLOAK shows that optimal transport provides a lightweight, principled framework for bridging the gap between adversarial attacks and real-world bot detection.