설명 가능한 질병 진단을 위한 대규모 언어 모델 기반 불확실성 추론

Uncertainty Reasoning with Large Language Models for Explainable Disease Diagnosis

임상 의사 결정은 완전하지 않고, 부정확하며, 언어적으로 표현된 환자 기록에 대한 추론을 필요로 합니다. 대규모 언어 모델(LLM)은 자연어에서 잠재적인 정보를 추출하는 데 탁월하지만, 신뢰할 수 있는 의료 AI를 위해서는 검증 가능성과 해석 가능성이 필수적입니다. 본 연구에서는 LLM을 형식 논리와 연결하여 설명 가능하고 형식적으로 검증 가능한 의료 진단을 가능하게 하는 신경-기호 추론 프레임워크를 제안합니다. 환자 설명과 임상 지침은 신경망 기반 지식 베이스에 포함되며, 여기서 LLM은 구조화된 의학적 개체, 시간 관계 및 퍼지 증상 패턴을 추출하여 이를 퍼지 논리와 선언적 규칙으로 표현된 기호 지식 베이스로 변환합니다. 우리는 두 단계의 추론을 수행합니다: (1) 인코딩된 기록에서 진단 패턴을 포착하기 위한 유도적 기호 일반화, 그리고 (2) 논리 프로그래밍 엔진을 통한 추론 검증을 통해 임상 표준과 일관된 진단을 도출하고 검증합니다. 각 증상은 확률 가중치를 갖는 퍼지 술어로 처리되며, 추론 경로는 감사 가능하고, 조정 가능하며, 의사의 피드백에 적합합니다. 순수 통계적 방법과는 달리, 본 시스템은 반복적인 개선을 지원합니다: LLM이 생성한 진단과 실제 값 사이의 불일치는 형식 규칙을 통해 추적, 설명 및 수정될 수 있습니다. 논리 기반 투명성, LLM의 적응성, 확률적 견고성을 결합함으로써, 본 프레임워크는 강력한 일반화 능력과 검증 가능한 단계별 추론 체인을 갖춘 인간 중심 의료 추론을 가능하게 합니다. 우리는 공개 벤치마크를 사용하여 본 프레임워크를 검증했으며, 실제 임상 기록에 대한 기호 추론과 LLM의 효과적인 통합을 보여주었습니다. 결과는 최첨단 LLM과 비교 가능한 성능을 나타내며, 동시에 해석 가능한 추론 경로와 형식적으로 검증 가능한 진단 결론을 제공합니다.

Clinical decision-making requires reasoning over incomplete, imprecise, and linguistically expressed patient narratives. While large language models (LLMs) excel at extracting latent information from natural language, they lack the verifiability and interpretability essential for trustworthy medical AI. We propose a neuro-symbolic reasoning framework that aligns LLMs with formal logic to enable explainable and formally verifiable medical diagnosis. Patient descriptions and clinical guidelines are embedded into a neural knowledge base, where LLMs extract structured medical entities, temporal relations, and fuzzy symptom patterns, which are decoded into a symbolic knowledge base expressed in fuzzy logic and declarative rules. We perform two-stage reasoning: (1) inductive symbolic generalization to capture diagnostic patterns from encoded narratives, and (2) inference verification via a logic programming engine to derive and validate diagnoses consistent with clinical standards. Each symptom is treated as a fuzzy predicate with probabilistic weights, and inference paths are auditable, adjustable, and compatible with physician feedback. Unlike purely statistical methods, our system supports iterative refinement: misalignment between LLM-generated diagnoses and ground truth can be traced, explained, and corrected through formal rules. By combining logic-based transparency, LLM adaptability, and probabilistic robustness, the framework enables human-aligned healthcare inference with strong generalization and verifiable, step-by-step reasoning chains. We validate our framework on public benchmarks, demonstrating effective reconciliation of symbolic reasoning and LLMs with real-world clinical narratives. Results show performance comparable to state-of-the-art LLMs, while additionally providing interpretable reasoning paths and formally verifiable diagnostic conclusions.