HPFA: LLM 추론을 위한 하이퍼그래프 기반 쌍대 오류 귀속 방법

HPFA: Hypergraph-Based Paired Failure Attribution for LLM Reasoning

반성은 LLM 추론의 강력한 메커니즘이지만, 그 효과는 특정 추론 단계에 오류를 정확하게 귀속하는 능력에 달려 있으며, 현재 모델은 이 능력이 현저히 부족합니다. 기존의 오류 귀속 방법들은 일련의 반사실적 테스트가 필요하여 경로 길이에 따라 확장성이 떨어지거나, 추론 과정을 선형적인 시퀀스로 취급하여 내재된 비선형적인 논리적 의존성을 무시하는 경향이 있습니다. 우리는 목표로 하는 실패 추론 경로의 하이퍼에지를 참조 성공 경로와 비교하여 오류의 근본 원인을 귀속하는 하이퍼그래프 기반 쌍대 오류 귀속(HPFA) 프레임워크를 제안합니다. 본 방법은 탐색 공간을 줄여 효율적으로 근본 원인을 찾아내고, 지도 학습 및 강화 학습을 통해 경량화된 귀속 모델을 훈련하기 위한 귀속 데이터의 확장 가능한 생성을 가능하게 합니다. 수학적 추론 및 에이전트 기반 코딩 작업에 대한 실험 결과, HPFA는 오류 귀속 정확도와 효율성을 크게 향상시키며, 훈련된 귀속 모델은 지속적으로 테스트 시 추론 정확도를 개선하고, 그래프 구조 또는 쌍대 분석이 없는 기준 모델보다 뛰어난 성능을 보입니다.

Reflection is a powerful mechanism for LLM reasoning, yet its effectiveness hinges on accurately attributing failures to specific reasoning steps, a capability that current models notably lack. Existing failure attribution methods either require expensive step-by-step counterfactual testing that scales poorly with trajectory length, or treat reasoning traces as flat sequences that ignore the inherent non-linear logical dependencies. We propose a hypergraph-based paired failure attribution (HPFA) framework that attributes the failure root cause by comparing the hyperedges of the targeted failure reasoning path against a reference successful path. By reducing the search space, our method efficiently localizes root causes and enables scalable synthesis of attribution data for training a lightweight attributor model via supervised fine-tuning and reinforcement learning. Experiments on mathematical reasoning and agentic coding tasks demonstrate that HPFA can dramatically increase attribution accuracy and efficiency, and the trained attributor consistently improves reasoning accuracy at test time, outperforming baselines that lack graph structure or paired analysis.