FIDES: 깊은 증거 신호를 활용한 충실한 추론 - RAG 시스템의 검색-메모리 충돌 해결

FIDES: Faithful Inference via Deep Evidence Signals for Retrieval-Memory Conflict in RAG

검색된 증거가 파라미터 기반 메모리와 상충될 때, 언어 모델은 종종 문맥을 무시하고 암기된 정보를 우선시하는 경향이 있는데, 이는 검색 증강(Retrieval Augmentation)의 핵심 목적을 저해합니다. 대조 디코딩(Contrastive decoding)은 문맥에 따른 출력을 강화하여 파라미터 편향을 억제하지만, 기존 방법들은 이러한 편향이 모든 토큰에 대해 균일하다는 암묵적인 가정을 기반으로 합니다. 단일의 전역적인 대조 가중치는 안전한 토큰에 과도하게 페널티를 부여하는 반면, 실제로 충돌이 있는 토큰은 충분히 수정되지 않습니다. 우리는 토큰 수준의 충돌 집중 현상을 확인했습니다. 즉, 검색-메모리 간의 긴장은 매우 이질적이며, 답변 생성에서 중요한 몇몇 단계에 집중되어 있습니다. 이는 대조 디코딩을 '얼마나' 대조를 적용할 것인가가 아니라, '어디에' 적용할 것인가로 재정의합니다. 우리는 FIDES(Faithful Inference via Deep Evidence Signals)라는 학습이 필요 없는 디코더를 제안합니다. FIDES는 출력 표면, 숨겨진 표현 및 예측 경로 등 다양한 깊이에서 검색-메모리 충돌을 탐색하는 세 가지 내부 신호를 읽고, 이를 결합하여 각 디코딩 단계에서의 개입 강도를 조절합니다. 세 개의 벤치마크와 여섯 가지 모델(4개의 주요 7B/8B 모델 및 두 개의 확장 기반 모델, 최대 70B)을 사용하여 평가한 결과, FIDES는 모든 18가지 설정에서 가장 높은 문맥 충실도를 달성했으며, 가장 강력한 학습이 필요 없는 기준 모델보다 +3점에서 +13점 높았습니다. 70B 규모에서 충실도는 92-94%에 도달하고 F1 점수는 62-63%로 상승했는데, 이는 토큰 수준의 선택성이 거친 대조 규칙이 억제하는 생성 능력을 발휘함을 보여줍니다.

When retrieved evidence contradicts parametric memory, language models frequently ignore context and default to memorized priors -- a failure that undermines the core purpose of retrieval augmentation. Contrastive decoding amplifies the context-conditioned output to suppress parametric bias, but existing methods rest on an implicit assumption that this bias is uniform across tokens. A single global contrastive weight over-penalizes safe tokens while leaving genuinely conflicted ones insufficiently corrected. We identify token-level conflict concentration: retrieval-memory tension is sharply heterogeneous, concentrated on a small fraction of answer-critical decoding steps. This reframes contrastive decoding from how much contrast to apply to where to apply it. We propose FIDES (Faithful Inference via Deep Evidence Signals), a training-free decoder that reads three internal signals probing retrieval-memory conflict at complementary depths -- output surface, hidden representations, and prediction trajectory -- and fuses them to govern intervention strength at each decoding step. Across three benchmarks and six backbones -- four primary 7B/8B models and two scaling backbones up to 70B -- FIDES achieves the best context fidelity in all 18 settings, outperforming the strongest training-free baseline by +3 to +13 points. On the 70B scale, fidelity reaches 92-94% while F1 surges to 62-63%, demonstrating that token-level selectivity unlocks generation capability that coarse contrastive rules suppress.