로그 정규 변이와 은밀한 가짜 이미지 탐지에서의 활용

Log-normal Mutations and their Use in Detecting Surreptitious Fake Images

많은 경우 적대적 공격은 자동 이미지 분류기를 공격하기 위해 전용된 특수 알고리즘에 기반합니다. 이 알고리즘들은 초기 공격의 탁월한 애드혹(ad hoc) 분포 덕분에 우수한 성능을 보입니다. 그러나 이러한 공격들은 그 특정한 초기 분포로 인해 쉽게 탐지됩니다. 이에 본 연구에서는 일반적인 블랙박스 최적화 도구, 특히 로그 정규 알고리즘에서 영감을 받은 다른 블랙박스 공격들을 고려합니다. 우리는 로그 정규 방식을 가짜 이미지 탐지기 공격에 적용하여 성공적인 결과를 얻었으며, 특히 이러한 공격은 기존의 적대적 공격에 특화된 탐지기들에 의해 탐지되지 않는다는 점이 중요합니다. 더 나아가, 이러한 공격들과 심층 탐지(deep detection)를 결합하여 개선된 가짜 이미지 탐지기를 생성합니다.

In many cases, adversarial attacks are based on specialized algorithms specifically dedicated to attacking automatic image classifiers. These algorithms perform well, thanks to an excellent ad hoc distribution of initial attacks. However, these attacks are easily detected due to their specific initial distribution. We therefore consider other black-box attacks, inspired from generic black-box optimization tools, and in particular the log-normal algorithm. We apply the log-normal method to the attack of fake detectors, and get successful attacks: importantly, these attacks are not detected by detectors specialized on classical adversarial attacks. Then, combining these attacks and deep detection, we create improved fake detectors.