한 번 생성된 텍스트는 항상 텍스트: 잠재적 프롬프트 복원을 통한 LLM 생성 텍스트 탐지

Once a Response, Always a Response: Detecting LLM-generated Text via Latent Prompt Restoration

대규모 언어 모델(LLM)은 방대한 양의 유창하고 설득력 있는 텍스트를 생성할 수 있으며, 이는 오정보 확산, 교육 분야의 부작용 및 플랫폼 관리 등 다양한 위험을 초래합니다. 이러한 문제점들로 인해 기계 생성 텍스트에 대한 강력한 탐지 기술이 점점 더 중요해지고 있습니다. 최근 제로샷 탐지기들은 주로 확률 기반의 통계적 차이를 활용하지만, LLM의 학습 과정에서 비롯되는 고유한 생성 메커니즘을 명시적으로 고려하지 않아 탐지의 견고성을 제한합니다. 이러한 문제를 해결하기 위해, 본 연구에서는 잠재적 프롬프트 복원에 기반한 학습이 필요 없는 탐지기인 EchoPrompt를 제안합니다. 핵심 아이디어는 기계 생성 텍스트가 일반적으로 상위 레벨의 프롬프트에 의존하여 생성되며, 이 숨겨진 의존성이 통일된 일반적인 접두사를 추가함으로써 부분적으로 복원될 수 있다는 것입니다. 구체적으로, EchoPrompt는 일반적인 어시스턴트 응답 컨텍스트를 복원하고, 명령-튜닝 모델을 사용하여 유도된 likelihood gain을 측정하며, 이를 해당 기본 모델과 비교하여 차이를 계산하고, 결과적으로 잠재적 프롬프트 의존성을 나타내는 점수를 산출합니다. 광범위한 실험 결과, EchoPrompt는 제로샷 탐지기 중에서 최첨단 성능을 달성했으며, 까다로운 평가 환경에서도 강력한 견고성을 유지하는 것으로 나타났습니다.

Large language models (LLMs) can generate fluent and convincing text at scale, creating growing risks for misinformation dissemination, educational misuse, and platform governance. These concerns make robust detection of machine-generated text increasingly necessary. Recent zero-shot detectors mainly exploit probability-based statistical discrepancies, but they do not explicitly account for the training process of LLMs, which leaves a distinct generation mechanism insufficiently modeled and limits detection robustness. To address this issue, we propose EchoPrompt, a training-free detector based on latent prompt restoration. Our key intuition is that machine-generated text is typically produced conditioned on an upstream prompt, and this hidden dependency can be partially reactivated by prepending a unified generic prefix. Specifically, EchoPrompt restores a generic assistant-response context, measures the induced likelihood gain with an instruction-tuned model, calibrates it against the corresponding base model, and aggregates the resulting differences into a score that quantifies latent prompt dependency. Extensive experiments show that EchoPrompt achieves state-of-the-art performance among zero-shot detectors while maintaining strong robustness across challenging evaluation settings.