VaLiDRec: 생성적 추천을 위한 가변 길이, 사전 학습된 언어 모델(LLM) 정렬 기반 의미 ID

VaLiDRec: Variable-Length LLM-Aligned Semantic IDs for Generative Recommendation

생성적 추천 시스템은 일반적으로 클러스터링 및 양자화를 통해 구성된 고정 길이의 의미 식별자(SID)를 사용하여 아이템을 표현합니다. 그러나 이러한 인공적인 코드는 아이템의 의미를 과도하게 압축할 수 있으며, 사전 학습된 LLM 어휘와 일치하지 않을 수 있고, 비용이 많이 드는 자기 회귀 디코딩이 필요합니다. 이에 따라 본 논문에서는 가변 길이의, LLM 정렬 기반 의미 식별자를 사용하는 생성적 추천 프레임워크인 VaLiDRec을 제안합니다. VaLiDRec은 토큰 중요도 추정, 의미 품질 인식 가지치기 및 충돌 방지 개선을 통해 유용한 원시 LLM 어휘 토큰에서 직접 SID를 구성하여 아이템의 의미 복잡성에 따라 식별자 길이를 조정할 수 있도록 합니다. 사용자의 선호도를 모델링하기 위해 VaLiDRec은 그래프 기반 소프트 프롬프트를 통합하고 추천 문제를 토큰 수준의 아이템 점수를 갖는 토큰 집합 예측으로 재구성하여 자기 회귀 SID 생성 및 빔 검색을 제거합니다. 네 가지 실제 데이터 세트에 대한 실험 결과, VaLiDRec이 모든 평가 지표에서 강력한 순차적 및 생성적 추천 기준 모델보다 일관되게 성능이 우수함을 보여줍니다. 또한 LC-Rec보다 뛰어난 제로샷 아이템 콜드 스타트 성능을 달성하고 87.49배 빠른 추론 속도를 보입니다. 이러한 결과는 LLM 원본의 가변 길이 의미 식별자가 생성적 추천 시스템에 더욱 표현력이 뛰어나고 효율적인 패러다임을 제공한다는 것을 보여줍니다.

Generative recommendation commonly represents items using fixed-length semantic identifiers (SIDs) constructed through clustering and quantization. However, these artificial codes may overcompress item semantics, remain misaligned with pretrained LLM vocabularies, and require costly autoregressive decoding. In light of this, we propose VaLiDRec, a generative recommendation framework based on variable-length, LLM-aligned semantic identifiers. VaLiDRec constructs SIDs directly from informative native LLM vocabulary tokens via token importance estimation, semantic-quality-aware pruning, and collision-aware refinement, allowing identifier lengths to adapt to item semantic complexity. To model user preferences, VaLiDRec incorporates graph-aware soft prompts and reformulates recommendation as token-set prediction with token-level item scoring, eliminating autoregressive SID generation and beam search. Experiments on four real-world datasets show that VaLiDRec consistently outperforms strong sequential and generative recommendation baselines across all evaluation metrics. It further achieves superior zero-shot item cold-start performance and 87.49$\times$ faster inference than LC-Rec. These results demonstrate that LLM-native variable-length semantic identifiers provide a more expressive and efficient paradigm for generative recommendation.