Backdoor4Good: LLM에서 백도어의 유익한 활용에 대한 벤치마킹

Backdoor4Good: Benchmarking Beneficial Uses of Backdoors in LLMs

백도어 메커니즘은 전통적으로 머신러닝 모델의 무결성을 손상시키는 보안 위협으로 연구되어 왔습니다. 그러나 동일한 메커니즘, 즉 입력 트리거를 통해 특정 동작을 조건부로 활성화하는 방식은 신뢰할 수 있는 모델 동작을 위한 제어 가능하고 감사 가능한 인터페이스로도 사용될 수 있습니다. 본 연구에서는 대규모 언어 모델(LLM)에서 extit{유익한 백도어} 적용 사례를 위한 통합 벤치마크 및 프레임워크인 extbf{Backdoor4Good (B4G)}를 제시합니다. 기존의 공격 및 방어에 초점을 맞춘 백도어 연구와 달리, B4G는 백도어 조건을 안전성, 제어 가능성 및 책임성을 향상시키는 extit{유익한 작업}에 활용합니다. B4G는 extit{트리거(Trigger)}, extit{활성화 메커니즘(Activation mechanism)} 및 extit{유틸리티 함수(Utility function)}를 나타내는 삼중 형식 $(T, A, U)$을 통해 유익한 백도어 학습을 공식화하고, 신뢰 중심의 네 가지 응용 분야를 포괄하는 벤치마크를 구현합니다. Llama3.1-8B, Gemma-2-9B, Qwen2.5-7B 및 Llama2-13B 모델에 대한 광범위한 실험을 통해, 유익한 백도어가 높은 제어 가능성, 변조 방지 기능 및 은밀성을 달성하면서도 일반적인 작업 성능을 유지할 수 있음을 보여줍니다. 본 연구 결과는 백도어가 본질적으로 악의적일 필요가 없으며, 적절히 설계될 경우 신뢰할 수 있는 AI 시스템을 위한 모듈화되고 해석 가능하며 유익한 구성 요소가 될 수 있다는 새로운 통찰력을 제공합니다. 본 연구의 코드 및 데이터셋은 https://github.com/bboylyg/BackdoorLLM/B4G 에서 확인할 수 있습니다.

Backdoor mechanisms have traditionally been studied as security threats that compromise the integrity of machine learning models. However, the same mechanism -- the conditional activation of specific behaviors through input triggers -- can also serve as a controllable and auditable interface for trustworthy model behavior. In this work, we present \textbf{Backdoor4Good (B4G)}, a unified benchmark and framework for \textit{beneficial backdoor} applications in large language models (LLMs). Unlike conventional backdoor studies focused on attacks and defenses, B4G repurposes backdoor conditioning for Beneficial Tasks that enhance safety, controllability, and accountability. It formalizes beneficial backdoor learning under a triplet formulation $(T, A, U)$, representing the \emph{Trigger}, \emph{Activation mechanism}, and \emph{Utility function}, and implements a benchmark covering four trust-centric applications. Through extensive experiments across Llama3.1-8B, Gemma-2-9B, Qwen2.5-7B, and Llama2-13B, we show that beneficial backdoors can achieve high controllability, tamper-resistance, and stealthiness while preserving clean-task performance. Our findings demonstrate new insights that backdoors need not be inherently malicious; when properly designed, they can serve as modular, interpretable, and beneficial building blocks for trustworthy AI systems. Our code and datasets are available at https://github.com/bboylyg/BackdoorLLM/B4G.