인센티브가 인간과 생성형 AI의 협업 방식에 미치는 영향

Incentives shape how humans co-create with generative AI

생성형 AI는 빠르게 사람들의 일상적인 업무 프로세스의 중요한 부분으로 자리 잡고 있습니다. 초기 연구 결과에 따르면, 생성형 AI는 개인의 생산성을 향상시킬 수 있지만, 이는 집단적 다양성을 감소시켜 잠재적으로 아이디어와 관점의 범위를 좁힐 수 있다는 우려가 있습니다. 본 연구는 이러한 우려에 반하는 결과를 보여줍니다. 사전 등록된 무작위 통제 실험을 통해, 참가자들이 생성형 AI를 상호 작용하며 사용하는 창작 글쓰기 과제에서 인센티브가 AI의 획일화 경향을 완화한다는 것을 입증했습니다. 동료와 비교하여 독창성을 보상받는 참가자들은 품질만을 보상받는 참가자들보다 집단적으로 더 다양한 글을 생산했습니다. 이러한 차이는 AI를 포기하는 것이 아니라, 참가자들이 AI를 사용하는 방식에서 비롯됩니다. 독창성을 장려받는 참가자들은 AI의 제안을 그대로 사용하는 빈도가 적고, 브레인스토밍, 교정 및 특정 수정 작업에 더 선택적으로 AI 모델을 활용합니다. 본 연구 결과는 생성형 AI의 효과가 기술 자체뿐만 아니라, 사용과 관련된 행동 전략 및 인센티브 구조에 따라 달라진다는 것을 보여줍니다.

Generative AI is quickly becoming an integral part of people's everyday workflows. Early evidence has shown that while generative AI can increase individual-level productivity, it does so at the cost of collective diversity, potentially narrowing the set of ideas and perspectives produced. Our research stands in contrast to this concern: through a pre-registered randomized control trial, we show that incentives mediate AI's homogenizing force in a creative writing task where participants can use AI interactively. Participants rewarded for originality relative to peers produce collectively more diverse writing than those rewarded for quality alone. This divergence is driven not by abandoning AI, but by how participants use it: those incentivized for originality incorporate fewer AI suggestions verbatim, relying on the model more selectively for brainstorming, proofreading, and targeted edits. Our results reveal that the effects of generative AI depend not only on the technology itself, but also the behavioral strategies and incentive structures surrounding its use.