LLM을 활용한 대조적 연합 순차 추천 시스템 강화

Empowering Contrastive Federated Sequential Recommendation with LLMs

연합 순차 추천(FedSeqRec)은 사용자 데이터를 분산된 상태로 유지하면서 다음 아이템을 예측하는 것을 목표로 하지만, 개별 장치에 저장된 단편적이고, 노이즈가 많으며, 동질적인 상호작용 로그로 인해 모델의 품질이 종종 제한됩니다. 많은 기존 접근 방식은 수동 데이터 증강 또는 추가적인 서버 측 제약을 통해 이러한 문제를 해결하려고 시도하지만, 이러한 전략은 제한된 의미적 다양성을 도입하거나 시스템 오버헤드를 증가시키는 단점이 있습니다. 이러한 과제를 해결하기 위해, 우리는 extbf{LUMOS}라는 파라미터 격리형 FedSeqRec 아키텍처를 제안합니다. LUMOS는 대규모 언어 모델(LLM)을 extit{로컬 의미 생성기}로 통합합니다. LUMOS는 기울기 또는 보조 파라미터를 공유하는 대신, 각 사용자 기록에서 세 가지 상호 보완적인 시퀀스 변형을 생성하기 위해 온장치 LLM을 비공개적으로 호출합니다. (i) extit{미래 지향적인} 트랙은 가능한 행동 패턴을 추론하고, (ii) extit{의미적으로 동일한 재구성}은 사용자 의도를 유지하면서 상호작용 패턴을 다양화하며, (iii) extit{선호도에 반하는 반사실적 시나리오}는 유용한 부정적인 샘플 역할을 합니다. 이러한 합성 시퀀스는 삼중 뷰 대조 최적화 방식을 통해 연합된 백본 내에서 공동으로 인코딩되어 민감한 정보를 노출하지 않고 더욱 풍부한 표현 학습을 가능하게 합니다. 세 개의 공개 벤치마크에 대한 실험 결과는 LUMOS가 HR@20 및 NDCG@20 측면에서 경쟁적인 중앙 집중식 및 연합 기준 모델보다 일관된 성능 향상을 달성한다는 것을 보여줍니다. 또한, 의미적으로 기반한 긍정 신호와 반사실적 부정 샘플의 사용은 전용 서버 측 보호 모듈 없이도 노이즈가 많고 적대적인 환경에서도 견고성을 향상시킵니다. 전반적으로, 본 연구는 LLM 기반의 의미 생성 기술이 개인 정보 보호 연합 추천 시스템을 발전시키는 새로운 패러다임을 제시할 수 있음을 보여줍니다.

Federated sequential recommendation (FedSeqRec) aims to perform next-item prediction while keeping user data decentralised, yet model quality is frequently constrained by fragmented, noisy, and homogeneous interaction logs stored on individual devices. Many existing approaches attempt to compensate through manual data augmentation or additional server-side constraints, but these strategies either introduce limited semantic diversity or increase system overhead. To overcome these challenges, we propose \textbf{LUMOS}, a parameter-isolated FedSeqRec architecture that integrates large language models (LLMs) as \emph{local semantic generators}. Instead of sharing gradients or auxiliary parameters, LUMOS privately invokes an on-device LLM to construct three complementary sequence variants from each user history: (i) \emph{future-oriented} trajectories that infer plausible behavioural continuations, (ii) \emph{semantically equivalent rephrasings} that retain user intent while diversifying interaction patterns, and (iii) \emph{preference-inconsistent counterfactuals} that serve as informative negatives. These synthesized sequences are jointly encoded within the federated backbone through a tri-view contrastive optimisation scheme, enabling richer representation learning without exposing sensitive information. Experimental results across three public benchmarks show that LUMOS achieves consistent gains over competitive centralised and federated baselines on HR@20 and NDCG@20. In addition, the use of semantically grounded positive signals and counterfactual negatives improves robustness under noisy and adversarial environments, even without dedicated server-side protection modules. Overall, this work demonstrates the potential of LLM-driven semantic generation as a new paradigm for advancing privacy-preserving federated recommendation.