LLM 기반 생성적 분리 학습을 통한 해석 가능한 표현: 지역 생활 서비스 추천

Interpretable Representation via LLM-Driven Generative Disentanglement for Local-Life Service Recommendation

대규모 언어 모델(LLM)은 Semantic ID (SID) 모델링을 통해 ID 기반 추천 시스템 발전에 기여했지만, 기존 SID 생성 프레임워크는 대부분 단일 표현-양자화 방식을 따릅니다. 이러한 설계 방식은 다음과 같은 두 가지 문제점을 야기합니다. 첫째, 의미론적 얽힘으로 인해 지리, 브랜드, 카테고리와 같은 이질적인 속성이 혼합되어 양자화 과정에서 정보 손실이 발생하고, 품질이 낮은 SID가 생성되며 심각한 충돌 현상이 발생합니다. 둘째, 블랙박스 표현 학습 방식은 명시적인 속성 의미론이나 SID 위치에 대한 명확한 지리적 또는 의미론적 정보를 제공하지 못하므로, 검색의 신뢰성을 저하시키고 SID 생성 과정을 진단하거나 제어하는 능력을 약화시킵니다. 본 연구에서는 지역 생활 서비스 추천을 위한 LLM 기반 생성적 분리 학습을 통한 해석 가능한 표현(LGRID) 방법을 제안합니다. LGRID는 인코딩 -> 분리 -> 정렬 -> 양자화 파이프라인을 통해 생성적 분리 학습 방식을 도입합니다. 먼저, 속성 간의 지리-의미론적 의존성을 보존하기 위해 LLM을 사용하여 여러 필드를 동시에 인코딩합니다 (각 필드를 독립적으로 인코딩하는 방식 대신). 구조화된 분리 블록은 숨겨진 상태를 속성에 맞춰 정렬된 슬롯으로 라우팅하여 지리적 및 의미론적 요인을 처리합니다. 시너지 효과를 내는 정렬 학습을 통해 이러한 슬롯은 검색에 적합하도록 생성적으로 디코딩 가능하고 차별화될 수 있도록 합니다. 또한, 이중 스트림 잔차 양자화를 사용하여 두 개의 스트림을 별도로 분리하여 명시적인 속성 대응 관계를 가진 압축된 SID를 생성합니다. 이러한 설계는 항목 속성과 지역 서비스 의미론에 기반한 해석 가능한 SID를 제공합니다. Kuaishou 및 Foursquare 데이터셋에 대한 실험 결과, LGRID는 강력한 기존 SID 모델보다 일관되게 우수한 성능을 보였으며, 최대 5.44%의 상대적인 AUC 향상을 달성했습니다. 또한, 거친 지리적 필드에 대해 99% 이상의 속성 디코딩 정확도를 달성했으며, 전체 SID 충돌률을 LGSID보다 개선된 39.9%로 낮추었습니다.

While large language models (LLMs) have advanced ID-based recommendation through Semantic ID (SID) modeling, existing SID generation frameworks largely follow a single-representation-then-quantization paradigm. This design faces two bottlenecks: semantic entanglement mixes heterogeneous attributes, such as geography, brand, and category, causing information loss during quantization, low-quality SIDs, and severe collisions; moreover, black-box representation learning provides neither explicit attribute semantics nor clear geographic or semantic meanings for SID positions. These limitations weaken both retrieval reliability and the ability to diagnose or control SID generation. We propose Interpretable Representation via LLM-Driven Generative Disentanglement for Local-Life Service Recommendation (LGRID). LGRID introduces a generative disentanglement paradigm through an Encode -> Disentangle -> Align -> Quantize pipeline. It first uses joint LLM encoding to preserve cross-attribute geographic-semantic dependencies, rather than encoding fields independently. A Structured Disentangled Block then routes hidden states into attribute-aligned slots for geographic and semantic factors. Synergistic Alignment Learning makes these slots both generatively decodable and discriminative for retrieval, while Dual-Stream Residual Quantization separately discretizes the two streams into compact SIDs with explicit attribute correspondence. This design yields interpretable SIDs with positions grounded in item attributes and local-service semantics. Experiments on Kuaishou and Foursquare show that LGRID consistently outperforms strong SID baselines, achieving up to a 5.44 percent relative AUC gain. It also achieves over 99 percent attribute-decoding accuracy for coarse geographic fields and reduces the full-SID collision rate to 39.9 percent, compared with 97.0 percent for LGSID.