대규모 언어 모델을 위한 블랙박스 불확실성 추정 방법의 체계적인 평가

A Systematic Evaluation of Black-Box Uncertainty Estimation Methods for Large Language Models

대규모 언어 모델(LLM)은 다양한 작업에서 강력한 성능을 보여주지만, 그 출력 결과는 종종 신뢰성이 떨어지고 환각 현상을 포함할 수 있으므로, 신뢰할 수 있는 LLM을 구축하기 위해서는 불확실성 추정(UE)이 필수적입니다. 실제로 많은 주요 LLM은 내부 신호(예: 로짓, 은닉 상태)를 사용할 수 없는 제한된 API를 통해서만 접근 가능하며, 이는 블랙박스 UE의 중요성을 더욱 강조합니다. 그러나 기존 연구에서 LLM을 위한 블랙박스 UE 방법론은 체계적으로 정리되지 않았고, 통일된 실증적 비교 분석이 부족했습니다. 이러한 격차를 해소하기 위해, 본 논문에서는 블랙박스 UE 방법에 대한 체계적인 검토를 수행하고, 이를 다섯 가지 범주(언어화 기반, 샘플링 기반, 설명 기반, 다중 에이전트, 혼합 방법)로 분류합니다. 또한, 통일된 평가 프레임워크를 구축하여 4가지 모델과 4가지 데이터셋 환경에서 24개의 대표적인 방법을 비교 분석했습니다. 실험 결과, 어떤 단일 방법도 모든 환경에서 일관되게 우수한 성능을 보이지 않았습니다. 그러나 답변 공간 내 후보들을 추론하고 비교하는 방법은 일반적으로 효과적이었으며, 여러 불확실성 신호를 결합하는 혼합 방법은 대부분의 조건에서 좋은 성능을 보였습니다. 본 연구에서는 벤치마크 데이터와 통일된 평가 프레임워크를 공개하여 재현 가능한 비교 분석을 촉진하고 향후 연구를 지원하며, 실증적 결과는 LLM을 위한 미래의 블랙박스 UE 방법을 개발하는 데 실질적인 지침을 제공합니다.

Although large language models (LLMs) have shown strong capabilities across a wide range of tasks, their outputs often remain unreliable and may contain hallucinations, making uncertainty estimation (UE) essential for building trustworthy LLMs. In practice, many mainstream LLMs are only accessible through restricted APIs, where internal signals such as logits and hidden states are unavailable, making black-box UE especially important. However, existing work on black-box UE for LLMs remains fragmented in methodology and lacks a unified empirical comparison. To address this gap, we present a systematic review of black-box UE methods and organize them into five categories: verbalization-based, sampling-based, explanation-based, multi-agent, and hybrid methods. We further build a unified evaluation framework and benchmark 24 representative methods across 4 models and 4 dataset settings. Our results show that no single method consistently dominates across all settings. Nevertheless, methods that reason over and compare candidates in the answer space are generally effective, and hybrid methods that combine multiple uncertainty signals perform well under most conditions. By releasing the benchmark data and a unified evaluation framework, we aim to facilitate reproducible comparisons and support future research, while our empirical findings provide practical guidance for developing future black-box UE methods for LLMs.