LLM의 논리적 추론을 신뢰할 수 있는가? 그래프 기반 프레임워크를 통한 불확실성, 일관성 및 강건성 정량화

Can We Trust LLM's Logic? Quantifying Uncertainty, Coherence, and Robustness via a Graph-Based Framework

대규모 언어 모델(LLM)은 오류와 왜곡된 추론을 하기 쉽고, Self-Consistency (SC)와 같은 디코딩 전략으로는 최종 답변의 일치 여부만 평가하기 때문에 이러한 문제를 감지하지 못하는 경우가 있습니다. 이는 다음과 같은 세 가지 근본적인 질문을 제기합니다: LLM의 추론 과정에서 불확실성을 어떻게 신뢰성 있게 정량화할 수 있는가? 의미, 구조 및 인과 관계에 대한 이해는 단순한 다수 투표보다 더 정확한 추론을 선택하는 데 도움이 되는가? 그리고 적대적 조건 하에서 추론의 토폴로지가 얼마나 강건한가? 이러한 질문에 답하기 위해, 우리는 불확실성 정량화를 전체적인 추론 신뢰성 문제로 재구성하는 그래프 기반 추론 프레임워크인 GRAPHEVAL을 소개합니다. 우리는 추론 공간의 의미-구조적 합의를 정량화하고, 병목 현상 및 확신에 찬 환각을 포착하는 새로운 불확실성 정량화 지표인 Graph Reasoning Coherence Score (GRCS)를 제안합니다. 연구 결과, GRCS는 더 강력한 모델과 작은 모델 모두에서 추론의 신뢰성과 지속적으로 부정적인 상관관계를 보이는 유일한 지표임을 확인했습니다. 또한, 우리는 추론 신뢰성을 높이는 데 초점을 맞춘 새로운 디코딩 전략인 Graph Self-Consistency (GSC)를 도입합니다. GSC는 단순 정확도를 희생하여 추론의 신뢰성을 향상시키며, 작은 모델에서 SC가 왜곡된 답변을 제시하는 경향이 있음을 보여줍니다. 마지막으로, 적대적인 방식의 분석을 통해, GSC에 의해 선택된 경로가 "핵심 경로" 역할을 하며, 모델을 이 경로에서 벗어나게 하면 추론의 신뢰성이 저하되고, 특정 경우 정확도가 감소할 수 있음을 입증했습니다.

Large-Language Models (LLMs) can be prone to flawed and unfaithful reasoning that decoding strategies like Self-Consistency (SC) fail to detect as they evaluate only final-answer agreement while ignoring the logical validity of intermediate steps. This raises three fundamental questions: How can we reliably quantify uncertainty in LLM reasoning? Can semantic, structural, and causal awareness select more faithful reasoning compared to naïve majority voting? and How robust is reasoning topology under adversarial conditions? To address these questions, we introduce GRAPHEVAL, a graph-based reasoning framework that re-frames uncertainty quantification (UQ) as a holistic reasoning fidelity problem. We propose a novel UQ metric, Graph Reasoning Coherence Score (GRCS), that quantifies semantic-structural consensus of the reasoning space and captures pathological mode collapse and confident hallucinations. We find that GRCS is the only metric that is consistently negatively correlated with reasoning faithfulness across both more capable and smaller models. Additionally, we introduce Graph Self-Consistency (GSC), a medoid-based decoding strategy that trades nominal accuracy for reasoning fidelity, exposing the degree to which SC is inflated by unfaithful lucky guesses in smaller models, while preserving or improving accuracy in more capable ones. Finally, through adversarial medoid ablation, we demonstrate that the GSC-selected path acts as a "load-bearing path" and forcing models away from it degrades reasoning faithfulness and, in targeted cases, causes drops in accuracy.