AI 규제における内部 배포의 문제점

Internal Deployment Gaps in AI Regulation

최첨단 AI 규제는 주로 외부 사용자에 배포되는 시스템에 초점을 맞추는데, 이는 배포 과정이 더 투명하고 외부의 감시 대상이 되기 쉽기 때문이다. 그러나 기업이 자체 조직 내에 고성능 시스템을 배포하여 연구 개발 자동화, 핵심 비즈니스 프로세스 가속화, 민감한 독점 데이터 처리 등을 수행하는 경우, 중요한 문제가 발생할 수 있다. 본 논문에서는 2025년 미국의 AI 규제와 유럽 연합의 AI 규제가 내부 배포에 대해 어떻게 다루는지 살펴본다. 우리는 내부적으로 배포된 시스템이 의도된 규제 감시를 회피하게 할 수 있는 세 가지 문제점을 지적한다. (1) 규제 의무를 회피할 수 있도록 하는 범위의 모호성, (2) 내부 시스템의 지속적인 발전을 제대로 반영하지 못하는 시점별 규정 준수 평가, (3) 규제 인지 및 감시를 저해하는 정보 불균형. 또한, 이러한 문제점이 지속되는 이유를 측정 가능성, 인센티브, 정보 접근성 측면에서 분석한다. 마지막으로, 이러한 문제점을 해결할 수 있는 잠재적인 접근 방식과 그에 따른 장단점을 제시한다. 이러한 패턴을 이해함으로써, 내부적으로 배포된 AI 시스템에 대한 정책 결정이 우연히 이루어지는 것이 아니라 신중하게 이루어질 수 있기를 기대한다.

Frontier AI regulations primarily focus on systems deployed to external users, where deployment is more visible and subject to outside scrutiny. However, high-stakes applications can occur internally when companies deploy highly capable systems within their own organizations, such as for automating R&D, accelerating critical business processes, and handling sensitive proprietary data. This paper examines how frontier AI regulations in the United States and European Union in 2025 handle internal deployment. We identify three gaps that could cause internally-deployed systems to evade intended oversight: (1) scope ambiguity that allows internal systems to evade regulatory obligations, (2) point-in-time compliance assessments that fail to capture the continuous evolution of internal systems, and (3) information asymmetries that subvert regulatory awareness and oversight. We then analyze why these gaps persist, examining tensions around measurability, incentives, and information access. Finally, we map potential approaches to address them and their associated tradeoffs. By understanding these patterns, we hope that policy choices around internally deployed AI systems can be made deliberately rather than incidentally.