악의적인 공격을 선으로 활용: 시각 콘텐츠 생명 주기 전반에 걸친 사전 보호 방안에 대한 연구

Adversarial Attacks for Good: A Survey of Proactive Protection across the Visual Content Lifecycle

시각 콘텐츠가 AI 파이프라인에 진입하면, 일반적으로 콘텐츠 소유자는 해당 콘텐츠가 어떻게 사용되는지에 대해 제한적인 기술적 통제력을 갖습니다. 법적 및 규제적 조치가 오용을 해결할 수 있지만, 많은 기술적 개입은 콘텐츠가 게시되거나 접근될 때, 즉 더 이른 시점에 적용되어야 합니다. 본 연구는 이러한 개입 지점을 중심으로 형성된 보호 패러다임을 살펴봅니다. 우리는 이를 '악의적인 공격을 선으로 활용'하는 방법이라고 정의합니다. 과거에는 학습 모델에 대한 공격으로 연구되었던 데이터 왜곡 및 구조화된 신호는 이제 데이터 소유자, 제작자, 플랫폼 또는 감사자가 무단 자동화를 방해하거나 추후 책임성을 확보하기 위해 활용합니다. 다섯 개의 연구 커뮤니티가 대체로 독립적으로 이러한 접근법을 개발했으며, 각 커뮤니티는 시각 자산의 생명 주기에서 서로 다른 단계를 다룹니다: 공유 시 원치 않는 인식을 방지하는 개인 정보 필터, 무단 학습을 방지하는 불학습 예제, 악의적인 편집 또는 모방을 방지하기 위한 생성적 안전 장치, 자동화된 에이전트에 대한 접근 제어를 위한 적대적 캡차(CAPTCHA), 그리고 배포 후 출처를 추적하기 위한 증명 메커니즘입니다. 이러한 방법들은 다양한 환경에서 개발되었으며, 성공 기준이 일치하지 않을 수 있지만, 많은 방법들이 인간의 인지, 의미 해석 및 기계 추론 사이의 지속적인 간극을 활용한다는 점은 시각 파이프라인이 다중 모드 모델과 자율 에이전트로 발전함에 따라 이 패러다임이 여전히 관련성이 있음을 시사합니다. 각 방법들의 주장을 비교하기 위해, 우리는 전송 가능성, 적응성 및 배포 준비 상태라는 공통적인 기준으로 모든 다섯 가지 유형을 평가했습니다. 생명 주기 전체에서, 대부분의 보호 조치는 여전히 정적 또는 약하게 적응하는 공격에 대해서만 검증되었으며, 제어된 벤치마크를 벗어난 증거는 아직 부족합니다. 본 연구에서는 단계 간의 대응책을 종합하고, 견고하고, 조합 가능하며, 배포 가능한 소유자 측면 보호를 위한 과제를 제시합니다.

Once visual content enters an AI pipeline, its owner often retains little technical control over how it is used. Legal and regulatory remedies can address misuse, but many technical interventions must be applied earlier, when content is released or accessed. This survey examines the protective paradigm that has grown around this intervention point, which we call \emph{adversarial attacks for good}. Perturbations and structured signals long studied as attacks on learned models are instead applied by data owners, creators, platforms, or auditors to disrupt unauthorized automation or support later accountability. Five research communities have arrived at this inversion largely independently, each addressing a different stage of a visual asset's lifecycle: privacy filters against unwanted recognition at sharing time, unlearnable examples against unauthorized training, generative safeguards against malicious editing or imitation, adversarial CAPTCHAs for access control against automated agents, and provenance mechanisms for post-circulation attribution. Although developed in separate venues with incompatible success criteria, many of these methods exploit persistent gaps between human perception, semantic interpretation, and machine inference, suggesting that the paradigm remains relevant as visual pipelines evolve toward multimodal models and autonomous agents. To make their claims comparable, we evaluate all five families along shared axes of transferability, adaptability, and deployment readiness. Across the lifecycle, we find that most protections are still validated mainly against static or weakly adaptive adversaries, while evidence beyond controlled benchmarks remains scarce. We close by consolidating cross-stage countermeasures and open problems for robust, composable, and deployable owner-side protection.