충돌 꿰뚫어보기: 검색 증강 생성에서의 투명한 지식 충돌 처리

Seeing through the Conflict: Transparent Knowledge Conflict Handling in Retrieval-Augmented Generation

검색 기능이 탑재된 대규모 언어 모델(LLM), 즉 검색 증강 생성(RAG) 패러다임은 모델의 매개변수 지식과 외부 증거를 결합해야 하지만, 실제로는 종종 환각 현상을 일으키거나, 노이즈가 많은 스니펫을 지나치게 신뢰하거나, 중요한 문맥을 무시하곤 한다. 본 논문에서는 이러한 결정 과정을 관찰 및 제어 가능하게 만드는 플러그 앤 플레이 프레임워크인 TCR(투명한 충돌 해결)을 소개한다. TCR은 (i) 이중 대조 인코더를 통해 의미적 일치와 사실적 일관성을 분리하고, (ii) 내부 메모리에 대한 신뢰도를 측정하기 위해 자가 답변 가능성을 추정하며, (iii) SNR(신호 대 잡음비) 기반 가중치가 적용된 경량 소프트 프롬프트를 통해 이 세 가지 스칼라 신호를 생성기에 전달한다. 7가지 벤치마크에 걸쳐 TCR은 단 0.3%의 파라미터만 추가하면서도 충돌 탐지 성능을 향상(+5-18 F1)시키고, 지식 공백 복구를 +21.4%p 높였으며, 오도하는 문맥에 의한 정보 덮어쓰기를 -29.3%p 감소시켰다. 이러한 신호들은 인간의 판단과 일치하며 시간적 결정 패턴을 드러낸다.

Large language models (LLMs) equipped with retrieval--the Retrieval-Augmented Generation (RAG) paradigm--should combine their parametric knowledge with external evidence, yet in practice they often hallucinate, over-trust noisy snippets, or ignore vital context. We introduce TCR (Transparent Conflict Resolution), a plug-and-play framework that makes this decision process observable and controllable. TCR (i) disentangles semantic match and factual consistency via dual contrastive encoders, (ii) estimates self-answerability to gauge confidence in internal memory, and (iii) feeds the three scalar signals to the generator through a lightweight soft-prompt with SNR-based weighting. Across seven benchmarks TCR improves conflict detection (+5-18 F1), raises knowledge-gap recovery by +21.4 pp and cuts misleading-context overrides by -29.3 pp, while adding only 0.3% parameters. The signals align with human judgements and expose temporal decision patterns.