GraphReAct: 다단계 그래프 추론을 위한 추론 및 행동 프레임워크

GraphReAct: Reasoning and Acting for Multi-step Graph Inference

추론-행동 프레임워크는 대규모 언어 모델(LLM)의 능력을 향상시키기 위해 추론과 행동을 결합하여 동적인 정보 획득을 가능하게 합니다. 그러나 이러한 패러다임을 그래프 학습으로 확장하는 것은 아직 충분히 연구되지 않았습니다. 그래프 데이터는 본질적으로 구조화되어 있으며, 정보는 노드와 엣지에 분산되어 있으며, 토폴로지와 잠재적 표현을 통해 인코딩됩니다. 결과적으로, 그래프에 대한 효과적인 추론은 그래프에서 유용한 증거를 검색하는 것뿐만 아니라, 다단계 추론 과정에서 축적된 맥락을 점진적으로 개선하는 것을 요구합니다. 본 연구에서는 다단계 추론을 가능하게 하는 그래프 추론-행동 프레임워크인 GraphReAct을 제안합니다. 특히, 우리는 두 가지 상호 보완적인 검색 행동을 포함하는 그래프 기반의 행동 공간을 설계합니다. 첫째, 로컬 구조적 의존성을 포착하는 토폴로지 검색 행동이고, 둘째, 표현 공간에서 관련성이 있지만 비-로컬인 증거에 접근하는 의미 검색 행동입니다. 이러한 행동들은 추론 맥락을 동적으로 확장합니다. 또한, 다단계 추론을 더욱 지원하기 위해, 축적된 정보를 압축된 표현으로 정제하고 재구성하는 '맥락 정제'라는 또 다른 유형의 행동을 도입합니다. 본 프레임워크는 검색 및 정제 행동과 추론을 결합하여 맥락 확장에서 압축으로의 점진적인 전환을 가능하게 합니다. 여섯 개의 벤치마크 데이터 세트에 대한 광범위한 실험 결과, GraphReAct은 최첨단 방법보다 일관되게 우수한 성능을 보여주며, 그래프 학습에서의 추론-행동의 효과를 입증합니다.

Reasoning-acting frameworks enhance large language models (LLMs) by interleaving reasoning with actions for dynamic information acquisition. However, extending this paradigm to graph learning remains underexplored. Graph data is inherently structured, with information distributed across nodes and edges and encoded through both topology and latent representations. As a result, effective reasoning over graphs requires not only retrieving informative evidence from the graph, but also progressively refining the accumulated context during multi-step inference. In this work, we propose GraphReAct, a graph reasoning-acting framework that enables step-by-step inference over graph-structured data. Specifically, we design a graph-based action space with two complementary retrieval actions: topological retrieval, which captures local structural dependencies, and semantic retrieval, which accesses non-local but relevant evidence in the representation space. These actions dynamically expand the reasoning context. To further support multi-step reasoning, we introduce another type of action, context refinement, which distills and reorganizes accumulated information into a compact representation. By interleaving reasoning with both retrieval and refinement actions, our framework enables a progressive transition from context expansion to compression. Extensive experiments on six benchmark datasets demonstrate that GraphReAct consistently outperforms state-of-the-art methods, validating the effectiveness of reasoning-acting for graph learning.