인공지능을 위한 조정된 결함 공개: 보안 취약점을 넘어서

Coordinated Flaw Disclosure for AI: Beyond Security Vulnerabilities

현재 인공지능(AI) 분야의 피해 보고는 알고리즘 결함을 공개하고 해결하기 위한 체계적인 프로세스가 부족하여, 주로 임시방편적인 접근 방식에 의존하고 있다. 이는 소프트웨어 보안 분야에서 잘 확립된 '조정된 취약점 공개(CVD)' 생태계와는 극명하게 대조된다. AI의 투명성과 협력을 위한 프레임워크를 구축하려는 전 세계적인 노력이 진행 중이지만, 머신러닝(ML) 모델이 제시하는 독특한 과제들은 전문화된 접근 방식을 요구한다. 이러한 격차를 해소하기 위해, 본 논문은 ML 및 AI 문제의 복잡성에 맞춘 '조정된 결함 공개(CFD)' 프레임워크의 도입을 제안한다. 우리는 임시적인 보고 방식에서 최근 부상하는 참여적 감사 방법에 이르기까지 ML 공개 관행의 진화 과정을 검토하고, 이를 사이버 보안 규범과 비교한다. 제안하는 프레임워크는 확장된 모델 카드, 동적 범위 확장, 독립적인 심사 패널, 자동화된 검증 프로세스와 같은 혁신적인 요소를 도입한다. 또한 향후 진행될 CFD의 실제 파일럿 계획도 개략적으로 설명한다. 우리는 CFD가 AI 시스템에 대한 대중의 신뢰를 크게 향상시킬 수 있다고 주장하며, 조직과 커뮤니티의 이익 균형을 통해 급변하는 기술 환경 속에서 AI의 책무성을 개선하는 것을 목표로 한다.

Harm reporting in Artificial Intelligence (AI) currently lacks a structured process for disclosing and addressing algorithmic flaws, relying largely on an ad-hoc approach. This contrasts sharply with the well-established Coordinated Vulnerability Disclosure (CVD) ecosystem in software security. While global efforts to establish frameworks for AI transparency and collaboration are underway, the unique challenges presented by machine learning (ML) models demand a specialized approach. To address this gap, we propose implementing a Coordinated Flaw Disclosure (CFD) framework tailored to the complexities of ML and AI issues. This paper reviews the evolution of ML disclosure practices, from ad hoc reporting to emerging participatory auditing methods, and compares them with cybersecurity norms. Our framework introduces innovations such as extended model cards, dynamic scope expansion, an independent adjudication panel, and an automated verification process. We also outline a forthcoming real-world pilot of CFD. We argue that CFD could significantly enhance public trust in AI systems. By balancing organizational and community interests, CFD aims to improve AI accountability in a rapidly evolving technological landscape.