대규모 언어 모델의 환각 현상에 대한 조사: 원리, 분류 체계, 도전 과제 및 미해결 문제

A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions

대규모 언어 모델(LLM)의 등장은 자연어 처리(NLP) 분야에서 중대한 돌파구가 되었으며, 정보 습득의 패러다임 전환을 가속화했다. 그럼에도 불구하고, LLM은 그럴듯해 보이지만 사실이 아닌 내용을 생성하는 환각(hallucination) 현상을 일으키기 쉽다. 이러한 현상은 실제 정보 검색(IR) 시스템에서 LLM의 신뢰성에 대한 중대한 우려를 낳고 있으며, 이러한 환각을 탐지하고 완화하기 위한 집중적인 연구를 촉발했다. LLM에 내재된 개방형 범용 속성을 고려할 때, LLM의 환각은 기존의 과제 특화 모델과는 다른 독특한 도전 과제를 제시한다. 이러한 차이점은 LLM 환각에 대한 최근의 발전 사항들을 심도 있게 이해하고 포괄적으로 개관하는 것이 시급함을 시사한다. 본 조사에서는 LLM 시대의 환각에 대한 혁신적인 분류 체계로 시작하여, 환각을 유발하는 요인들을 심층적으로 다룬다. 이어서 환각 탐지 방법론과 벤치마크에 대한 철저한 개요를 제시한다. 그 후 LLM 환각을 완화하기 위한 대표적인 방법론으로 논의를 확장한다. 또한 환각에 대응하는 데 있어 검색 증강 LLM이 직면한 현재의 한계를 살펴보고, 더욱 견고한 IR 시스템을 개발하기 위한 통찰력을 제공한다. 마지막으로, 대규모 비전-언어 모델에서의 환각 및 LLM 환각 내 지식 경계에 대한 이해를 포함하여, LLM 환각에 관한 유망한 연구 방향을 강조한다.

The emergence of large language models (LLMs) has marked a significant breakthrough in natural language processing (NLP), fueling a paradigm shift in information acquisition. Nevertheless, LLMs are prone to hallucination, generating plausible yet nonfactual content. This phenomenon raises significant concerns over the reliability of LLMs in real-world information retrieval (IR) systems and has attracted intensive research to detect and mitigate such hallucinations. Given the open-ended general-purpose attributes inherent to LLMs, LLM hallucinations present distinct challenges that diverge from prior task-specific models. This divergence highlights the urgency for a nuanced understanding and comprehensive overview of recent advances in LLM hallucinations. In this survey, we begin with an innovative taxonomy of hallucination in the era of LLM and then delve into the factors contributing to hallucinations. Subsequently, we present a thorough overview of hallucination detection methods and benchmarks. Our discussion then transfers to representative methodologies for mitigating LLM hallucinations. Additionally, we delve into the current limitations faced by retrieval-augmented LLMs in combating hallucinations, offering insights for developing more robust IR systems. Finally, we highlight the promising research directions on LLM hallucinations, including hallucination in large vision-language models and understanding of knowledge boundaries in LLM hallucinations.