수동적 지표에서 능동적 신호로: 거대 언어 모델에서 불확실성 정량화의 진화하는 역할

From Passive Metric to Active Signal: The Evolving Role of Uncertainty Quantification in Large Language Models

거대 언어 모델(LLM)은 놀라운 능력을 보여주지만, 모델의 비신뢰성은 고위험 분야 도입에 있어 여전히 중대한 장벽으로 남아 있습니다. 본 연구는 이러한 문제를 해결하기 위한 기능적 진화, 즉 불확실성이 수동적인 진단 지표에서 실시간 모델 행동을 유도하는 능동적인 제어 신호로 변화하는 과정을 조명합니다. 우리는 불확실성이 세 가지 최전선 영역에서 어떻게 능동적 제어 신호로 활용되는지 입증합니다. 첫째, 고급 추론 분야에서는 연산 최적화 및 자기 수정 촉발에 사용됩니다. 둘째, 자율 에이전트 분야에서는 도구 사용과 정보 탐색에 관한 메타인지적 결정 통제에 활용됩니다. 셋째, 강화 학습 분야에서는 보상 해킹(reward hacking) 완화 및 내재적 보상을 통한 자기 개선 활성화에 기여합니다. 이러한 발전 사항들을 베이지안 방법론이나 컨포멀 예측(Conformal Prediction)과 같은 최신 이론적 프레임워크에 기반하여 설명함으로써, 우리는 이 변혁적인 추세에 대한 통합된 관점을 제시합니다. 이 연구 조사는 포괄적인 개요, 비판적 분석, 그리고 실용적인 설계 패턴을 제공하며, 불확실성 활용의 새로운 흐름을 숙달하는 것이 확장 가능하고 신뢰할 수 있는 차세대 AI 구축에 필수적임을 주장합니다.

While Large Language Models (LLMs) show remarkable capabilities, their unreliability remains a critical barrier to deployment in high-stakes domains. This survey charts a functional evolution in addressing this challenge: the evolution of uncertainty from a passive diagnostic metric to an active control signal guiding real-time model behavior. We demonstrate how uncertainty is leveraged as an active control signal across three frontiers: in \textbf{advanced reasoning} to optimize computation and trigger self-correction; in \textbf{autonomous agents} to govern metacognitive decisions about tool use and information seeking; and in \textbf{reinforcement learning} to mitigate reward hacking and enable self-improvement via intrinsic rewards. By grounding these advancements in emerging theoretical frameworks like Bayesian methods and Conformal Prediction, we provide a unified perspective on this transformative trend. This survey provides a comprehensive overview, critical analysis, and practical design patterns, arguing that mastering the new trend of uncertainty is essential for building the next generation of scalable, reliable, and trustworthy AI.