스펙티브 디코딩에서의 손실 기반 검증 재검토: 메커니즘, 상충 관계 및 실패 요인

Revisiting Lossy Verification in Speculative Decoding: Mechanisms, Trade-offs, and Failure Modes

스펙티브 디코딩(SD)은 경량화된 초안 모델이 토큰을 제안하고, 더 큰 대상 모델이 이를 병렬로 검증함으로써 대규모 언어 모델 추론 속도를 가속화합니다. 최근 연구에서는 효율성을 더욱 향상시키기 위해 엄격한 분포 일치 조건을 완화하는 손실 기반 검증 방식을 도입했습니다. 그러나 이러한 완화는 종종 디코딩 분포를 은밀하게 변경하며, 그 결과 얻어지는 가속화는 불안정하고 심각하게 저하된 생성 품질을 초래할 수 있습니다. 본 연구에서는 손실 기반 검증 방법이 유도하는 분포에 대한 체계적인 분석을 제시합니다. 우리는 많은 겉보기에 다른 접근 방식들이 표면적으로만 다르고, 두 가지 범주, 즉 절단 기반 검증과 협업적 검증으로 분류될 수 있음을 보여줍니다. 또한, 선별된 벤치마크를 활용한 진단 평가 프레임워크를 구축했습니다. 절단 기반 방법의 경우, 분포 왜곡으로 인해 실제 절단 샘플링 기준에 비해 성능이 크게 저하되는 근본적인 문제를 확인했습니다. 협업적 검증의 경우, 초안 확률과 대상 확률 간의 과도한 차이를 제어하는 것이 저품질 출력을 방지하는 데 필수적이라는 핵심 원리를 밝혀냈습니다. 저희 코드는 다음 주소에서 이용 가능합니다: https://github.com/ZhouYuxuanYX/Fast-HSD.

Speculative Decoding (SD) accelerates large language model inference by allowing a lightweight draft model to propose tokens that are subsequently verified in parallel by a larger target model. Recent approaches introduce lossy verification schemes to further improve efficiency by relaxing strict distributional matching. Yet such relaxation silently rewrites the decoding distribution, and the resulting acceleration can come at the cost of unstable, sometimes severely degraded generation quality. In this work, we present a principled analysis of the distributions induced by lossy verification methods. We show that many seemingly distinct approaches differ only superficially and can be classified into two categories: truncation-based verification and collaborative verification. We further construct a diagnostic evaluation framework across curated benchmarks. For truncation-based methods, we identify a fundamental pitfall: performance can degrade significantly compared to the true truncation sampling baseline due to distributional distortion. For collaborative verification, we uncover a key principles: controlling the overshoot of draft probabilities relative to target probabilities is essential to prevent low-quality outputs. Our code is available at https://github.com/ZhouYuxuanYX/Fast-HSD.