이상 탐지를 위한 마스킹 확산 모델

Masked Diffusion Modeling for Anomaly Detection

이상 탐지는 정상 데이터 분포에서 벗어난 샘플을 식별하는 것을 목표로 하며, 이는 많은 안전 관련 응용 분야의 핵심입니다. 그러나 범주형, 혼합 유형 및 이산 시퀀스 데이터에 대한 효과적인 이상 탐지 방법을 개발하는 것은 여전히 어려운 과제이며 상대적으로 연구가 부족합니다. 마스킹 확산 모델은 가려진 값을 나머지 보이는 컨텍스트에서 복원하도록 학습함으로써 이러한 데이터를 자연스럽게 모델링할 수 있는 방법을 제공합니다. 본 논문에서는 정상 데이터만으로 훈련된 마스킹 확산 모델을 기반으로 하는, 순방향 연산만을 사용하는 이상 탐지 방법인 MaskDiff-AD를 제안합니다. MaskDiff-AD는 테스트 샘플이 주어지면 무작위로 가려진 좌표를 재구성하는 데 필요한 난이도를 사용하여 이상 점수를 생성하며, 이는 콘텐츠에 민감한 점수로, 역방향 시간 샘플링을 피하면서 이산 상태 공간에서 직접 작동합니다. 또한 MaskDiff-AD의 비매개변수 변형을 개발하고 고정된 탐지 임계값 하에서의 제1종 및 제2종 오류를 특성화하여 이론적 보장을 제공합니다. ADBench 및 UADAD에서 가져온 14개의 범주형 및 혼합 유형 테이블 데이터 세트와 NLP-ADBench에서 가져온 4개의 텍스트 이상 탐지 데이터 세트에 대한 실험 결과, MaskDiff-AD는 기존 방법, 확산 기반 방법 및 최신 테이블/텍스트 이상 탐지 기준과 비교하여 경쟁력 있는 성능을 달성하는 것으로 나타났습니다. 특히, MaskDiff-AD는 전체 평균 순위에서 가장 우수한 성능을 보이며, 12개의 테이블 기준 방법 모두를 능가했습니다.

Anomaly detection aims to identify samples that deviate from the nominal data distribution and is central to many safety-critical applications. However, developing effective anomaly detection methods for categorical, mixed-type, and discrete sequence data remains challenging and relatively underexplored. Masked diffusion models provide a natural way to model such data by learning to recover masked values from the remaining visible context. In this paper, we propose Masked Diffusion for Anomaly Detection (MaskDiff-AD), a forward-only method based on masked diffusion models trained only on nominal data. Given a test sample, MaskDiff-AD constructs anomaly scores from the difficulty of reconstructing randomly masked coordinates, yielding a content-sensitive score that operates directly on discrete state spaces while avoiding reverse-time sampling. We also develop a non-parametric variant of MaskDiff-AD and provide theoretical guarantees by characterizing Type-I and Type-II errors under a fixed detection threshold. Experiments on fourteen categorical and mixed-type tabular datasets from ADBench and UADAD, as well as four text anomaly detection datasets from NLP-ADBench, show that MaskDiff-AD achieves competitive performance against classical, diffusion-based, and recent tabular/text anomaly detection baselines. Notably, MaskDiff-AD achieves the best overall average rank, outperforming all twelve tabular baseline methods.