PrivacyReasoner: LLM이 인간과 유사한 프라이버시 사고를 모방할 수 있는가?

PrivacyReasoner: Can LLM Emulate a Human-like Privacy Mind?

본 논문은 실제 뉴스에 반응하여 개별 사용자가 프라이버시 우려를 형성하는 과정을 시뮬레이션하기 위한 AI 에이전트 설계인 PRA를 소개한다. PRA는 집단 수준의 감성 분석을 넘어, 개인의 댓글 이력과 맥락적 단서에 기반한 사용자별 프라이버시 추론을 시뮬레이션하기 위해 프라이버시 및 인지 이론을 통합한다. 이 에이전트는 각 사용자의 "프라이버시 사고(privacy mind)"를 재구성하고, 제한된 합리성(bounded rationality)을 모방한 맥락 필터를 통해 관련 프라이버시 기억을 동적으로 활성화하며, 새로운 프라이버시 시나리오에 대해 해당 사용자가 어떻게 반응할지를 반영하는 합성 댓글을 생성한다. 또한, 확립된 프라이버시 우려 분류 체계에 맞춰 보정된 상호보완적 'LLM-as-a-Judge' 평가기가 생성된 추론의 충실도를 정량화한다. 실제 해커뉴스(Hacker News) 토론을 대상으로 한 실험 결과, PRA는 프라이버시 우려 예측에서 기준 에이전트보다 우수한 성능을 보였으며 AI, 전자상거래, 헬스케어 등 다양한 도메인에 걸쳐 전이 가능한 추론 패턴을 포착함을 입증했다.

This paper introduces PRA, an AI-agent design for simulating how individual users form privacy concerns in response to real-world news. Moving beyond population-level sentiment analysis, PRA integrates privacy and cognitive theories to simulate user-specific privacy reasoning grounded in personal comment histories and contextual cues. The agent reconstructs each user's "privacy mind", dynamically activates relevant privacy memory through a contextual filter that emulates bounded rationality, and generates synthetic comments reflecting how that user would likely respond to new privacy scenarios. A complementary LLM-as-a-Judge evaluator, calibrated against an established privacy concern taxonomy, quantifies the faithfulness of generated reasoning. Experiments on real-world Hacker News discussions show that \PRA outperforms baseline agents in privacy concern prediction and captures transferable reasoning patterns across domains including AI, e-commerce, and healthcare.