신념 집합의 불확실성 정량화: 거리 기반 접근 방식

Quantification of Credal Uncertainty: A Distance-Based Approach

신념 집합, 즉 확률 측정 집합으로 구성된 닫힌 볼록 집합은 머신러닝에서 우연적 불확실성과 인식론적 불확실성을 표현하는 자연스러운 프레임워크를 제공합니다. 그러나 주어진 신념 집합, 특히 다중 클래스 분류에서 이러한 두 가지 유형의 불확실성을 어떻게 정량화할 것인지는 아직 충분히 연구되지 않았습니다. 본 논문에서는 신념 집합에 대한 전체 불확실성, 우연적 불확실성 및 인식론적 불확실성을 정량화하기 위한 거리 기반 접근 방식을 제안합니다. 구체적으로, 우리는 적분 확률 메트릭(IPM) 프레임워크 내에서 이러한 측정값들의 집합을 소개합니다. 결과적으로 얻어지는 값들은 명확한 의미론적 해석을 가지며, 자연스러운 이론적 요구 사항을 충족하고, 일반적인 IPM 선택에 대해 계산적으로 효율적입니다. 우리는 총 변동 거리를 사용하여 프레임워크를 구현하고, 다중 클래스 분류를 위한 간단하고 효율적인 불확실성 측정 방법을 얻습니다. 이진 경우에서, 이러한 선택은 기존의 불확실성 측정 방법을 회복하며, 이는 아직까지 체계적인 다중 클래스 일반화가 부족했습니다. 실험 결과는 실용적인 유용성을 확인하며, 낮은 계산 비용으로 우수한 성능을 보입니다.

Credal sets, i.e., closed convex sets of probability measures, provide a natural framework to represent aleatoric and epistemic uncertainty in machine learning. Yet how to quantify these two types of uncertainty for a given credal set, particularly in multiclass classification, remains underexplored. In this paper, we propose a distance-based approach to quantify total, aleatoric, and epistemic uncertainty for credal sets. Concretely, we introduce a family of such measures within the framework of Integral Probability Metrics (IPMs). The resulting quantities admit clear semantic interpretations, satisfy natural theoretical desiderata, and remain computationally tractable for common choices of IPMs. We instantiate the framework with the total variation distance and obtain simple, efficient uncertainty measures for multiclass classification. In the binary case, this choice recovers established uncertainty measures, for which a principled multiclass generalization has so far been missing. Empirical results confirm practical usefulness, with favorable performance at low computational cost.