AI를 위한 시장 설계: 저작권 이분법을 넘어

Market Design for AI: Beyond the Copyright Binary

어떻게 AI 모델 학습에 사용될 인간이 생성한 콘텐츠의 시장을 설계하여 기술 발전을 촉진하면서 동시에 고품질 콘텐츠 제작에 대한 개인적인 인센티브를 유지할 수 있을까요? 기존 접근 방식은 극단적인 두 가지 입장에 나뉩니다. 하나는 공정 이용을 기반으로 한 '무제한 사용' 모델이고, 다른 하나는 '강력한 지적 재산권' 모델입니다. 우리는 이 두 가지 모두 실패한다는 것을 보여줍니다. '무제한 사용' 모델은 창작자를 보상하지 못하며, 반면 '강력한 지적 재산권' 모델 역시 정적인 스태클버그 게임으로 모델링했을 때 창의적 인센티브를 충분히 제공하지 못합니다. 특히 혁신적인 창작자에게 이러한 현상이 두드러지는데, 우리는 이를 "독창성 패널티"라고 명명했습니다. 이러한 통찰을 동적 모델로 확장한 결과, 초기에는 좋은 성능을 보이는 AI 모델이라 할지라도 또 다른 시장 실패가 발생하여 AI 모델의 성능을 저하시킨다는 것을 발견했습니다. 이는 인간이 AI 기반 콘텐츠 제작에 더욱 의존하게 되면서, 획일화된 콘텐츠가 학습 데이터로 다시 입력되어 모델 성능을 저하시키는 "정밀성의 저주" 현상입니다. 우리는 이러한 문제를 해결하기 위해 데이터 중개자를 활용하여 창작자 간의 외부효과를 내부화하고 혁신적인 기여에 대한 보조금을 제공함으로써 효율성을 회복하는 시장 설계 방안을 제안합니다.

How can we design a market of human-generated content for use in training AI models that both enables technological progress and preserves individual incentives for high-quality content creation? Existing approaches take polar positions: a "free-for-all" model based on fair use and a "strong intellectual property rights" model. We show that both fail: Free-for-all does not compensate creators, and---by modeling as a static Stackelberg game---strong intellectual property rights also underpower creative incentives. We find this especially true for more innovative creators, a phenomenon we term the "originality penalty." Extending this insight to a dynamic model, we find another market failure undermining AI model performance, even for an initially good model: Such a model induces greater reliance by humans on AI-assisted creation, resulting in homogenized content feeding back into training, which degrades the model performance---a "curse of precision." We further propose a market design with a data intermediary negotiating collectively with the AI firm and subsidizing innovative contributions, thus restoring efficiency.