반자동 생성과 온라인 지식 증류를 이용한 효율적인 개인 맞춤형 재순위화

Efficient Personalized Reranking with Semi-Autoregressive Generation and Online Knowledge Distillation

생성 모델은 다단계 추천 시스템의 최종 재순위화 단계에서 아이템 간의 의존성을 포착할 수 있는 유망한 패러다임을 제공합니다. 그러나 실제 적용에는 다음과 같은 두 가지 주요 과제가 존재합니다. (1) 높은 생성 품질과 낮은 지연 시간을 동시에 달성하는 것은 상충되는 목표이므로, 이 둘 사이의 균형을 맞추기 어렵고, (2) 기존 방법에서는 사용자 및 아이템 특징 간의 상호 작용이 충분하지 않습니다. 이러한 문제점을 해결하기 위해, 본 논문에서는 재순위화를 위한 새로운 개인 맞춤형 반자동 지식 증류 프레임워크(PSAD)를 제안합니다. 이 프레임워크에서, 교사 모델은 생성 품질과 효율성 간의 균형을 맞추기 위해 반자동 생성기를 채택하며, 학습 과정에서 경량화된 점수 네트워크에 순위 관련 지식을 온라인으로 전달하여 실시간 및 효율적인 추론을 가능하게 합니다. 또한, 사용자 의도를 반영하고 관심사 변화를 모델링하는 사용자 프로필 네트워크(UPN)를 제안하여 사용자 및 아이템 간의 심층적인 상호 작용을 가능하게 합니다. 세 개의 대규모 공개 데이터셋에서 수행한 실험 결과, PSAD는 순위 성능과 추론 효율성 측면에서 최첨단 기준 모델보다 훨씬 우수한 성능을 보였습니다.

Generative models offer a promising paradigm for the final stage reranking in multi-stage recommender systems, with the ability to capture inter-item dependencies within reranked lists. However, their practical deployment still faces two key challenges: (1) an inherent conflict between achieving high generation quality and ensuring low-latency inference, making it difficult to balance the two, and (2) insufficient interaction between user and item features in existing methods. To address these challenges, we propose a novel Personalized Semi-Autoregressive with online knowledge Distillation (PSAD) framework for reranking. In this framework, the teacher model adopts a semi-autoregressive generator to balance generation quality and efficiency, while its ranking knowledge is distilled online into a lightweight scoring network during joint training, enabling real-time and efficient inference. Furthermore, we propose a User Profile Network (UPN) that injects user intent and models interest dynamics, enabling deeper interactions between users and items. Extensive experiments conducted on three large-scale public datasets demonstrate that PSAD significantly outperforms state-of-the-art baselines in both ranking performance and inference efficiency.