고정된 워터마크를 넘어: 대규모 언어 모델에서의 적응형 워터마크 탈취

Beyond A Fixed Seal: Adaptive Stealing Watermark in Large Language Models

워터마킹은 대규모 언어 모델(LLM) 서비스에 중요한 보안 장치를 제공하며, LLM이 생성한 텍스트를 식별하는 데 도움을 줍니다. 반면, 워터마크 탈취 알고리즘(SWA)은 피해 LLM이 생성한 워터마크 텍스트에서 워터마크 정보를 추출하여 매우 정교한 공격을 수행하며, 이는 워터마크의 신뢰성을 저해합니다. 기존 SWA는 고정된 전략에 의존하며, 탈취된 워터마크 정보의 불균일 분포와 실제 LLM 생성 프로세스의 동적인 특성을 간과합니다. 이러한 한계를 극복하기 위해, 우리는 위치 기반 시퀀스 구축 및 적응형 선택 모듈을 통해 설계 유연성을 향상시킨 새로운 SWA인 적응형 탈취(AS)를 제안합니다. AS는 문맥적으로 정렬된 토큰의 다양한 활성화 상태에서 파생된 여러 공격 관점을 정의하여 작동합니다. 공격 실행 중, AS는 워터마크 호환성, 생성 우선 순위 및 동적 생성 관련성을 기반으로 최적의 관점을 동적으로 선택합니다. 우리의 실험 결과는 동일한 실험 조건에서 AS가 대상 워터마크에 대한 탈취 효율성을 크게 향상시킨다는 것을 보여줍니다. 이러한 결과는 잠재적인 공격에 더 강한 LLM 워터마크의 필요성을 강조합니다. 우리는 향후 연구를 위해 코드를 공개합니다. [https://github.com/DrankXs/AdaptiveStealingWatermark](https://github.com/DrankXs/AdaptiveStealingWatermark)}

Watermarking provides a critical safeguard for large language model (LLM) services by facilitating the detection of LLM-generated text. Correspondingly, stealing watermark algorithms (SWAs) derive watermark information from watermarked texts generated by victim LLMs to craft highly targeted adversarial attacks, which compromise the reliability of watermarks. Existing SWAs rely on fixed strategies, overlooking the non-uniform distribution of stolen watermark information and the dynamic nature of real-world LLM generation processes. To address these limitations, we propose Adaptive Stealing (AS), a novel SWA featuring enhanced design flexibility through Position-Based Seal Construction and Adaptive Selection modules. AS operates by defining multiple attack perspectives derived from distinct activation states of contextually ordered tokens. During attack execution, AS dynamically selects the optimal perspective based on watermark compatibility, generation priority, and dynamic generation relevance. Our experiments demonstrate that AS significantly increases steal efficiency against target watermarks under identical experimental conditions. These findings highlight the need for more robust LLM watermarks to withstand potential attacks. We release our code to the community for future research\footnote{https://github.com/DrankXs/AdaptiveStealingWatermark}.