대규모 언어 모델(LLM)의 데이터 프라이버시 보호: 서베이

On Protecting the Data Privacy of Large Language Models (LLMs): A Survey

대규모 언어 모델(LLM)은 인간의 언어를 이해하고 생성하며 번역할 수 있는 복잡한 인공지능 시스템이다. 이들은 방대한 양의 텍스트 데이터를 분석하여 언어 패턴을 학습함으로써 글쓰기, 대화, 요약 및 기타 언어 작업을 수행할 수 있다. LLM이 대량의 데이터를 처리하고 생성하는 과정에서 민감한 정보가 유출될 위험이 있으며, 이는 데이터 프라이버시를 위협할 수 있다. 본 논문은 LLM과 관련된 데이터 프라이버시 우려 사항을 명확히 하여 이에 대한 포괄적인 이해를 도모하는 데 중점을 둔다. 구체적으로, LLM 내에서의 수동적 프라이버시 유출과 능동적 프라이버시 공격을 모두 아우르는 데이터 프라이버시 위협의 범위를 파악하기 위해 철저한 조사를 수행한다. 이어서 다양한 단계에서 LLM에 적용되는 프라이버시 보호 메커니즘을 평가하고, 그 효과와 한계를 상세히 검토한다. 마지막으로, LLM 프라이버시 보호 분야에서 직면한 과제들을 논하고 향후 발전 방향을 제시한다.

Large language models (LLMs) are complex artificial intelligence systems capable of understanding, generating and translating human language. They learn language patterns by analyzing large amounts of text data, allowing them to perform writing, conversation, summarizing and other language tasks. When LLMs process and generate large amounts of data, there is a risk of leaking sensitive information, which may threaten data privacy. This paper concentrates on elucidating the data privacy concerns associated with LLMs to foster a comprehensive understanding. Specifically, a thorough investigation is undertaken to delineate the spectrum of data privacy threats, encompassing both passive privacy leakage and active privacy attacks within LLMs. Subsequently, we conduct an assessment of the privacy protection mechanisms employed by LLMs at various stages, followed by a detailed examination of their efficacy and constraints. Finally, the discourse extends to delineate the challenges encountered and outline prospective directions for advancement in the realm of LLM privacy protection.