플롯 속의 데자뷰: 라이브 스트리밍 위험 평가를 위한 검색 증강 LLM 및 교차 세션 증거 활용

Deja Vu in Plots: Leveraging Cross-Session Evidence with Retrieval-Augmented LLMs for Live Streaming Risk Assessment

라이브 스트리밍의 부상은 온라인 상호작용을 변화시켜 대규모 실시간 참여를 가능하게 했지만, 동시에 사기 및 조직적인 악성 행위와 같은 복잡한 위험에 플랫폼을 노출시켰습니다. 유해한 행위들은 종종 점진적으로 누적되거나 겉보기에 관련 없어 보이는 여러 스트림에 걸쳐 반복해서 나타나기 때문에 이러한 위험을 탐지하는 것은 어렵습니다. 이를 해결하기 위해, 본 논문에서는 라이브 스트리밍 위험 평가를 위한 CS-VAR(교차 세션 증거 인식 검색 증강 탐지기)를 제안합니다. CS-VAR에서는 경량화된 도메인 특화 모델이 빠른 세션 수준의 위험 추론을 수행하며, 훈련 과정에서 검색된 교차 세션 행동 증거를 추론하고 국소적-전역적 통찰을 소형 모델로 전이하는 대형 언어 모델(LLM)의 지도를 받습니다. 이러한 설계는 소형 모델이 여러 스트림에 걸쳐 반복되는 패턴을 인식하고, 구조화된 위험 평가를 수행하며, 실시간 배포를 위한 효율성을 유지할 수 있게 합니다. 대규모 산업 데이터셋에 대한 광범위한 오프라인 실험과 온라인 검증을 통해 CS-VAR의 최첨단 성능을 입증했습니다. 또한, CS-VAR는 실제 라이브 스트리밍 모더레이션을 효과적으로 지원할 수 있는 해석 가능하고 국소화된 신호를 제공합니다.

The rise of live streaming has transformed online interaction, enabling massive real-time engagement but also exposing platforms to complex risks such as scams and coordinated malicious behaviors. Detecting these risks is challenging because harmful actions often accumulate gradually and recur across seemingly unrelated streams. To address this, we propose CS-VAR (Cross-Session Evidence-Aware Retrieval-Augmented Detector) for live streaming risk assessment. In CS-VAR, a lightweight, domain-specific model performs fast session-level risk inference, guided during training by a Large Language Model (LLM) that reasons over retrieved cross-session behavioral evidence and transfers its local-to-global insights to the small model. This design enables the small model to recognize recurring patterns across streams, perform structured risk assessment, and maintain efficiency for real-time deployment. Extensive offline experiments on large-scale industrial datasets, combined with online validation, demonstrate the state-of-the-art performance of CS-VAR. Furthermore, CS-VAR provides interpretable, localized signals that effectively empower real-world moderation for live streaming.