UniGD: 산업용 검색 광고를 위한 통합 생성-판별 프레임워크

UniGD: A Unified Generative-Discriminative Framework for Industrial Retrieval

생성적 검색(Generative Retrieval, GR)은 산업용 검색 광고 분야에서 유망한 패러다임이지만, 엄격한 관련성 및 지연 시간 요구 사항으로 인해 실제 적용에 어려움이 있습니다. 기존 시스템에서는 GR과 독립적인 관련성 모델을 함께 사용하여 생성 확률 목표와 쿼리-광고의 관련성 구분을 분리합니다. 이는 효과성을 저하시키고 서비스 비용을 증가시킵니다. 본 논문에서는 검색 및 관련성 점수를 단일 모델 내에 통합하는 통합 생성-판별 프레임워크(UniGD)를 제안합니다. UniGD는 공동 최적화 과정에서 발생하는 기울기 간섭 문제를 완화하기 위해, 두 목표를 적응적으로 조율하는 Conflict-Aware Gradient Enhancement (CAGE) 기법을 도입했습니다. 또한, 멀티모달 사전 학습 모델로부터 추출된 고정된 계층적 코드북에 아이템 표현을 연결하여 풍부하고 일반화 가능한 의미론적 선행 지식을 부여하는 Codebook-Anchored Representation Module (CAM)을 설계했습니다. 다양한 유형의 짧은 동영상, 제품 및 라이브 스트리밍 광고를 위해 UniGD는 Heterogeneous Ad-material Modeling (HAM) 기법을 제안합니다. HAM은 공유된 기반 구조를 통해 서로 다른 유형 간의 의미론적 공통성을 파악하는 동시에 각 유형별 모델링 능력을 유지합니다. Kuaishou 검색 광고 플랫폼에서 실시한 온라인 A/B 테스트 결과, UniGD는 광고 수익을 5.78% 증가시키고, 추론 지연 시간을 33% 감소시키며, 판별적 관련성 추정 성능을 향상시키는 것으로 나타났습니다. NQ320K 및 MS300K 데이터셋에서 UniGD는 가장 강력한 재현된 GR 기준 모델 대비 Recall@10 성능을 각각 8.44% 및 3.19% 향상시켰습니다.

Generative retrieval (GR) is a promising paradigm for industrial search advertising, yet its deployment is constrained by strict relevance and latency requirements. Existing systems cascade GR with an independent relevance model, decoupling the generative likelihood objective from query-ad relevance discrimination, which compromises effectiveness and increases serving costs. We propose a Unified Generative-Discriminative framework (UniGD) that integrates retrieval and relevance scoring within a single model. To mitigate gradient interference in joint optimization, UniGD introduces Conflict-Aware Gradient Enhancement (CAGE) to adaptively coordinate the two objectives. UniGD further designs a Codebook-Anchored Representation Module (CAM) that anchors item representations to frozen hierarchical codebooks distilled from a multimodal pretrained model, thereby endowing them with rich and generalizable semantic priors. For heterogeneous short-video, product, and live-stream ads, UniGD proposes Heterogeneous Ad-material Modeling (HAM), which captures cross-type semantic commonality over a shared backbone while preserving type-specific modeling capacity. Online AB tests on Kuaishou search advertising platform show that UniGD raises ad revenue by 5.78%, reduces inference latency by 33%, and improves discriminative relevance estimation. On NQ320K and MS300K, UniGD improves Recall@10 over the strongest reproduced GR baseline by 8.44% and 3.19%, respectively.