SAERec: 희소 오토인코더를 활용하여 추천 시스템을 위한 세밀한 해석 가능한 의도 사전 구축
SAERec: Constructing Fine-grained Interpretable Intents Priors via Sparse Autoencoders for Recommendation
의도를 기반으로 사용자 행동의 근본적인 동기를 모델링하여 정확성과 설명 가능성을 향상시키는 추천 시스템은 상당한 주목을 받고 있습니다. 대부분의 기존 모델은 클러스터링 또는 프로토타입 학습을 통해 사용자 시퀀스에서 직접 의도를 추출합니다. 그러나 이러한 모델은 시퀀스의 품질에 민감하며, 의도 개수를 미리 설정해야 하고, 명시적인 의미론적 기반이 부족하다는 단점이 있습니다. 이러한 문제점들은 불완전하고 거친 의도 집합을 초래하며, 추천 시스템의 효과를 제한합니다. 본 논문에서는 텍스트 코퍼스에서 세밀하고 해석 가능한 의도 공간을 자동으로 구축하여 추천을 안내하는 새로운 추천 시스템인 Sparse Autoencoder for intent-based recommendation (SAERec)을 제안합니다. SAERec은 텍스트를 단순한 보조 정보로 취급하는 대신, 의도 구축을 위한 고밀도의 정보를 제공하는 증거 자료로 활용합니다. 구체적으로, 우리는 먼저 대규모 언어 모델(LLM)의 잠재 공간에서 희소 오토인코더(SAE)를 사용하여 텍스트 임베딩을 분리하고 해석함으로써 종합적인 세밀한 해석 가능한 의도 집합을 추출하여 텍스트 노이즈로부터 의도 관련 의미론을 분리합니다. 그런 다음, 각 사용자에게 적합한 의도를 이 집합에서 검색하여 추천을 위한 사전 지식으로 활용합니다. 이는 사용자의 현재 관심사와 일치하는 개인적인 의도와 함께 사용자 간에 공유되는 일반적인 아이템 패턴(예: 품질, 가격)을 나타내는 공통 의도를 포함합니다. 마지막으로, 검색된 의도를 시퀀스 모델링에 통합하기 위해, 시간적 종속성을 포착하고 개인적 및 공통 의도 신호를 주입하는 다중 분기 어텐션 메커니즘을 제안하며, 이를 통해 최종 사용자 표현을 구성하여 추천에 활용합니다. 공개 데이터 세트에 대한 광범위한 실험 결과는 SAERec이 최첨단 모델보다 우수한 성능을 보이며, 인간이 이해할 수 있는 설명을 제공한다는 것을 보여줍니다.
Intent-based recommender systems have gained significant attention for improving accuracy and interpretability by modeling the underlying motivations behind user behaviors. Most existing models derive intents directly from user sequences via clustering or prototype learning. However, they are sensitive to sequence quality, require presetting the number of intents, and lack explicit semantic grounding. These issues lead to an incomplete and coarse intent set and limit the effectiveness of recommendation. In this paper, we propose the Sparse Autoencoder for intent-based recommendation (SAERec), a novel recommender that automatically constructs a fine-grained and interpretable intent space from a textual corpus to guide recommendation. Rather than treating texts as side signals, SAERec leverages them as high information density evidence for intent construction. Specifically, we first extract a comprehensive set of fine-grained interpretable intents from the latent space of large language models (LLMs) by using a sparse autoencoder (SAE) to disentangle and interpret text embeddings, which isolates intent-related semantics from textual noise. Then, for each user, we retrieve relevant intents from this set as priors to guide recommendation. It contains personal intents matching a user's current interests and public intents capturing general item patterns shared across users (e.g., quality, price). Finally, to integrate retrieved intents into sequence modeling, we propose a multi-branch attention mechanism that captures temporal dependencies and injects both personal and public intent signals, followed by an adaptive fusion layer to construct the final user representation for recommendation. Extensive experiments on public datasets demonstrate the superiority of SAERec, consistently outperforming state-of-the-art baselines while providing human-understandable explanations.
No Analysis Report Yet
This paper hasn't been analyzed by Gemini yet.
Log in to request an AI analysis.