AI 대체에 대한 안전장치로서의 집단 선택

Group Selection as a Safeguard Against AI Substitution

생성형 AI에 대한 의존은 특히 창의적 작업에서 문화적 변이와 다양성을 감소시킬 수 있다. 이러한 변이의 감소는 이미 모델 붕괴와 환각 현상을 포함한 모델 성능 문제를 야기하고 있다. 본 논문에서는 AI 사용이 인간의 문화적 진화에 미치는 장기적인 결과와, 광범위한 AI 사용이 '문화적 붕괴'—AI 생성 콘텐츠에 대한 의존이 인간의 다양성과 혁신을 감소시키고 누적적인 문화 진화를 둔화시키는 과정—로 이어질 수 있는 조건을 조사한다. 행위자 기반 모델과 진화 게임 이론을 사용하여, 우리는 '보완'과 '대체'라는 두 가지 AI 사용 유형을 비교한다. AI-보완 사용자는 최종 결과물의 주 생산자로 남으면서 제안과 지침을 구하는 반면, AI-대체 사용자는 최소한의 입력만 제공하고 결과물의 대부분을 AI에 의존한다. 우리는 이러한 사용 전략들이 진화적 역학 속에서 어떻게 경쟁하고 확산되는지 연구한다. 연구 결과, 문화적 변이의 감소가 더 심각함에도 불구하고 개인 수준의 선택에서는 AI-대체 사용자가 우세한 것으로 나타났다. 대조적으로, AI-보완 사용자는 탐색에 필요한 다양성을 유지함으로써 집단에 이익을 줄 수 있으며, 따라서 집단 경계가 뚜렷할 때 문화적 집단 선택에 의해 선호될 수 있다. 전반적으로 본 연구 결과는 AI 도입이 인구 집단 수준에서 미치는 장기적인 영향을 조명하며, 이러한 위험을 완화하기 위한 정책 및 조직 전략 수립에 시사점을 제공한다.

Reliance on generative AI can reduce cultural variance and diversity, especially in creative work. This reduction in variance has already led to problems in model performance, including model collapse and hallucination. In this paper, we examine the long-term consequences of AI use for human cultural evolution and the conditions under which widespread AI use may lead to "cultural collapse", a process in which reliance on AI-generated content reduces human variation and innovation and slows cumulative cultural evolution. Using an agent-based model and evolutionary game theory, we compare two types of AI use: complement and substitute. AI-complement users seek suggestions and guidance while remaining the main producers of the final output, whereas AI-substitute users provide minimal input, and rely on AI to produce most of the output. We then study how these use strategies compete and spread under evolutionary dynamics. We find that AI-substitute users prevail under individual-level selection despite the stronger reduction in cultural variance. By contrast, AI-complement users can benefit their groups by maintaining the variance needed for exploration, and can therefore be favored under cultural group selection when group boundaries are strong. Overall, our findings shed light on the long-term, population-level effects of AI adoption and inform policy and organizational strategies to mitigate these risks.