AI 생성 이미지: 인간과 기계가 동일한 이미지를 볼 때 무엇을 보게 되는가

AI-Generated Images: What Humans and Machines See When They Look at the Same Image

온라인 허위 정보 유포 캠페인에서 생성형 AI의 오용은 투명하고 설명 가능한 탐지 시스템의 시급한 필요성을 강조합니다. 본 연구에서는 AI 생성 이미지 탐지기가 인간이 이해할 수 있는 설명을 제공하는 데 어떻게 더 효과적일 수 있는지 조사합니다. 이를 위해, 저희는 대규모의 사실적인 가짜 이미지 데이터셋인 AIText2Image를 사용하여 학습된 다양한 아키텍처와 미세 조정 전략을 가진 탐지기 모음을 개발하고, 최첨단 텍스트-이미지 AI 생성기의 성능을 평가합니다. 저희는 16가지의 다양한 설명 가능한 AI(XAI) 방법을 탐지 프레임워크에 통합하고, 시각적 설명을 종합적으로 개선하고 평가합니다. 이 과정에서 인간이 AI 생성 이미지를 이해하는 데 우선순위를 두는 새로운 접근 방식을 사용하며, 100명의 참가자를 대상으로 수집된 텍스트 및 시각적 응답을 활용합니다. 이 프레임워크는 가짜 이미지 탐지에서 시각-언어적 단서와 XAI 방법의 명확성에 대한 통찰력을 제공하며, XAI 출력과 인간의 선호도 간의 일치성을 측정하여 인간의 관점에서 XAI 방법의 유용성을 평가합니다.

The misuse of generative AI in online disinformation campaigns highlights the urgent need for transparent and explainable detection systems. In this work, we investigate how detectors for AI-generated images can be more effective in providing human-understandable explanations for their predictions. To this end, we develop a suite of detectors with various architectures and fine-tuning strategies, trained on our large-scale photorealistic fake image dataset, AIText2Image, and assess their performance on state-of-the-art text-to-image AI generators. We integrate 16 different explainable AI (XAI) methods into our detection framework, and the visual explanations are comprehensively refined and evaluated through a novel approach that prioritizes human understanding of AI-generated images, using both textual and visual responses collected from a survey of 100 participants. This framework offers insights into visual-language cues in fake image detection and into the clarity of XAI methods from a human perspective, measuring the alignment of XAI outputs with human preferences.