개인정보 보호를 위한 대규모 언어 모델: 정렬 및 적응을 통한 텍스트 없는 추론

Towards Privacy-Preserving Large Language Model: Text-free Inference Through Alignment and Adaptation

현재 LLM 기반 서비스는 일반적으로 사용자가 민감한 정보가 포함된 텍스트 데이터를 제출하도록 요구합니다. 이러한 방식은 개인 정보, 의료 정보 또는 법률 정보가 무단으로 노출될 위험을 초래하며, 상당한 개인 정보 침해 위험을 야기합니다. 기존의 개인 정보 보호 기술들은 이러한 위험을 완화하려고 시도했지만, 종종 상당한 계산 비용을 발생시키고 모델 성능을 저하시키는 경향이 있습니다. 이러한 개인 정보 보호와 효율성 간의 균형 문제를 해결하기 위해, 우리는 개인 정보 보호를 위한 미세 조정(Privacy-Preserving Fine-Tuning, PPFT)이라는 새로운 학습 파이프라인을 제안합니다. PPFT는 원시 프롬프트 텍스트를 전송할 필요성을 없애면서, 클라이언트와 서비스 제공자 모두에게 개인 정보 보호와 모델 유용성 간의 균형을 유지합니다. 우리의 접근 방식은 두 단계로 구성됩니다. 첫째, 클라이언트 측 인코더와 서버 측 투영 모듈 및 LLM을 함께 학습시켜 서버가 원시 텍스트 대신 k개의 프롬프트 임베딩을 활용하도록 합니다. 둘째, 노이즈가 추가된 임베딩을 사용하여 비공개, 도메인별 데이터에 대해 투영 모듈과 LLM을 미세 조정하여, 원시 텍스트 프롬프트를 노출시키지 않고 디코더의 내부 파라미터에 대한 접근 없이도 효과적인 적응을 가능하게 합니다. 도메인별 및 일반 벤치마크에 대한 광범위한 실험 결과, PPFT는 개인 정보 보호와 유용성 간에 놀라운 균형을 달성하며, 노이즈 없는 최상의 성능과 비교하여 최소한의 성능 저하를 유지합니다.

Current LLM-based services typically require users to submit raw text regardless of its sensitivity. While intuitive, such practice introduces substantial privacy risks, as unauthorized access may expose personal, medical, or legal information. Although prior defenses strived to mitigate these risks, they often incur substantial computational overhead and degrade model performance. To overcome this privacy-efficiency trade-off, we introduce Privacy-Preserving Fine-Tuning (PPFT), a novel training pipeline that eliminates the need for transmitting raw prompt text while maintaining a favorable balance between privacy preservation and model utility for both clients and service providers. Our approach operates in two stages: first, we train a client-side encoder together with a server-side projection module and LLM, enabling the server to condition on k-pooled prompt embeddings instead of raw text; second, we fine-tune the projection module and LLM on private, domain-specific data using noise-injected embeddings, allowing effective adaptation without exposing plain text prompts and requiring access to the decoder's internal parameters. Extensive experiments on domain-specific and general benchmarks demonstrate that PPFT achieves a striking balance between privacy and utility, maintaining competitive performance with minimal degradation compared to noise-free upper bounds.