적대적 위장 (Adversarial Camouflage)

Adversarial Camouflage

얼굴 인식 알고리즘의 급속한 발전은 다양한 유용한 응용을 가능하게 했지만, 널리 보급되면서 대규모 감시의 위험과 개인 정보 보호에 대한 심각한 우려를 야기했습니다. 본 논문에서는 사용자의 개인 정보를 보호하기 위한 새로운 솔루션인 "적대적 위장 (Adversarial Camouflage)"을 소개합니다. 이 방법은 실제 환경에서 사용자가 효율적으로 구현하고 적용할 수 있도록 설계되었습니다. 알고리즘은 색상, 모양 및 각도로 매개변수화된 저차원 패턴 공간을 정의하여 시작합니다. 최적화된 패턴을 찾은 후, 의미적으로 유효한 얼굴 영역에 투영하여 평가합니다. 제안하는 방법은 다양한 아키텍처에서 인식 오류를 최대화하여 블랙박스 시스템에 대한 높은 교차 모델 적용 가능성을 보장합니다. 시뮬레이션을 통해 테스트된 최첨단 얼굴 인식 모델의 성능을 크게 저하시키며, 실제 인간 실험에서도 유망한 결과를 보여줍니다. 또한, 모델의 견고성 차이와 아키텍처 간 공격 전이 가능성에 대한 증거를 제시합니다.

While the rapid development of facial recognition algorithms has enabled numerous beneficial applications, their widespread deployment has raised significant concerns about the risks of mass surveillance and threats to individual privacy. In this paper, we introduce \textit{Adversarial Camouflage} as a novel solution for protecting users' privacy. This approach is designed to be efficient and simple to reproduce for users in the physical world. The algorithm starts by defining a low-dimensional pattern space parameterized by color, shape, and angle. Optimized patterns, once found, are projected onto semantically valid facial regions for evaluation. Our method maximizes recognition error across multiple architectures, ensuring high cross-model transferability even against black-box systems. It significantly degrades the performance of all tested state-of-the-art face recognition models during simulations and demonstrates promising results in real-world human experiments, while revealing differences in model robustness and evidence of attack transferability across architectures.