이해 후 기억: 글로벌 의미 확산을 통한 인지적 핵심 기반의 RAG 프레임워크

Understand Then Memory: A Cognitive Gist-Driven RAG Framework with Global Semantic Diffusion

검색 증강 생성(RAG)은 외부 지식을 통합하여 LLM의 환각 현상을 효과적으로 완화합니다. 그러나 기존 프레임워크에서 텍스트의 이산적인 표현은 종종 의미적 완전성을 훼손하여 검색의 오류를 초래합니다. 인간의 기억 메커니즘에서 영감을 받아, 우리는 인간의 인지적 기억 과정을 모방하는 RAG 프레임워크인 CogitoRAG를 제안합니다. 이 프레임워크의 핵심은 의미적 핵심(Semantic Gist)의 추출 및 진화입니다. 오프라인 인덱싱 단계에서, CogitoRAG는 비정형 코퍼스를 핵심 기억 코퍼스로 변환하고, 이를 엔터티, 관계적 사실 및 기억 노드를 통합한 다차원 지식 그래프로 변환합니다. 온라인 검색 단계에서, 이 프레임워크는 쿼리 분해 모듈을 통해 복잡한 쿼리를 포괄적인 하위 쿼리로 분해하여 인간이 복잡한 정보를 처리하는 방식을 모방합니다. 이후, 엔터티 확산 모듈은 구조적 관련성과 엔터티 빈도 보상 메커니즘에 따라 그래프 전체에서 연관 검색을 수행합니다. 또한, 우리는 확산으로부터 얻은 점수와 의미적 유사성을 결합하여 후보 텍스트를 정확하게 재순위화하는 CogniRank 알고리즘을 제안합니다. 최종 증거는 생성기로 텍스트-기억 쌍 형식으로 전달되어, 고밀도의 정보 지원을 제공합니다. 5개의 주요 질의응답 벤치마크와 GraphBench에서의 다중 작업 생성 실험 결과는 CogitoRAG가 최첨단 RAG 방법보다 훨씬 우수한 성능을 보이며, 복잡한 지식 통합 및 추론 능력에서 뛰어남을 보여줍니다.

Retrieval-Augmented Generation (RAG) effectively mitigates hallucinations in LLMs by incorporating external knowledge. However, the inherent discrete representation of text in existing frameworks often results in a loss of semantic integrity, leading to retrieval deviations. Inspired by the human episodic memory mechanism, we propose CogitoRAG, a RAG framework that simulates human cognitive memory processes. The core of this framework lies in the extraction and evolution of the Semantic Gist. During the offline indexing stage, CogitoRAG first deduces unstructured corpora into gist memory corpora, which are then transformed into a multi-dimensional knowledge graph integrating entities, relational facts, and memory nodes. In the online retrieval stage, the framework handles complex queries via Query Decomposition Module that breaks them into comprehensive sub-queries, mimicking the cognitive decomposition humans employ for complex information. Subsequently, Entity Diffusion Module performs associative retrieval across the graph, guided by structural relevance and an entity-frequency reward mechanism. Furthermore, we propose the CogniRank algorithm, which precisely reranks candidate passages by fusing diffusion-derived scores with semantic similarity. The final evidence is delivered to the generator in a passage-memory pairing format, providing high-density information support. Experimental results across five mainstream QA benchmarks and multi-task generation on GraphBench demonstrate that CogitoRAG significantly outperforms state-of-the-art RAG methods, showcasing superior capabilities in complex knowledge integration and reasoning.