LLM 기반 추천을 위한 계층적 잠재 추론

Hierarchical Latent Reasoning for LLM-based Recommendation

대규모 언어 모델(LLM)은 의미 이해 및 문맥 모델링 능력을 활용하여 추천 분야에서 강력한 잠재력을 보여주고 있습니다. 최근 연구에서는 사용자 선호도 모델링을 개선하기 위해 추론 메커니즘을 추가로 도입하고 있습니다. 그러나 명시적인 자연어 추론은 상당한 계산 비용을 발생시키며, 기존의 잠재 추론 방법은 주로 중간 상태를 생성하거나 검증하는 데 초점을 맞추고 있어 각 계층별 선호도 역할과 기여도가 충분히 설명되지 않습니다. 본 연구에서는 LLM 기반 추천을 위한 계층적 잠재 추론 프레임워크인 HiLaR을 제안합니다. HiLaR은 시간 정보를 활용하여 계층적인 사용자 선호도 표현을 구축하고, 이를 여러 LLM의 잠재 추론 상태와 연결하며, 광범위한 선호도에서 세분화된 현재 의도까지 추론 과정을 구성합니다. 또한, 최종 추천 피드백과 함께 각 상태의 주변 목표-우도를 기반으로 파생된 계층 인식 프로세스 보상을 결합하여 추론 경로를 최적화합니다. Amazon의 네 가지 벤치마크 데이터 세트에 대한 실험 결과, HiLaR은 강력한 순차적, 생성적 및 LLM 기반 추천 모델을 능가하는 성능을 보였습니다. 추가 분석에서는 계층적 표현 학습, 잠재 정렬 및 프로세스 수준 최적화의 기여도를 검증했습니다. 본 연구의 코드는 https://github.com/hupeiyu21/HiLaR 에서 확인할 수 있습니다.

Large Language Models (LLMs) have shown strong potential for recommendation by leveraging their semantic understanding and contextual modeling capabilities. Recent studies further introduce reasoning mechanisms to improve user preference modeling. However, explicit natural-language reasoning incurs substantial inference overhead, whereas existing latent reasoning methods mainly focus on generating or verifying intermediate states, leaving their layer-wise preference roles and contributions insufficiently characterized. We propose HiLaR, a Hierarchical Latent Reasoning framework with layer-aware reinforcement optimization for LLM-based recommendation. HiLaR constructs temporal-guided hierarchical user preference representations, aligns them with multiple LLM latent reasoning states, and organizes the reasoning process from broad preferences to fine-grained current intents. To further optimize the reasoning trajectory, HiLaR combines final recommendation feedback with layer-aware process rewards derived from the marginal target-likelihood gain of each state. Experiments on four Amazon benchmark datasets show that HiLaR generally outperforms strong sequential, generative, and LLM-based recommendation baselines. Ablation and sensitivity analyses further verify the contribution of hierarchical representation learning, latent alignment, and process-level optimization. Our code is available in https://github.com/hupeiyu21/HiLaR.