우리는 인공지능 경쟁의 굴레에서 벗어날 수 있을까? 왜 자국 이익이 국가들을 초지능 인공지능에 대한 일시 중단(모라토리움)으로 이끌 수 있을까?

Are we Doomed to an AI Race? Why Self-Interest Could Drive Countries Towards a Moratorium on Superintelligence

본 논문은 게임 이론을 활용하여, 일반적으로 받아들여지는 견해와 달리, 초지능 인공지능(ASI)에 대한 일시 중단이 국가의 자국 이익에 부합할 수 있음을 주장합니다. 지정학적 강대국 간의 전략적 상호작용을 형식화하여, 기술적 우월성의 이점과 통제되지 않은 ASI의 파괴적 위험 간의 균형을 모델링합니다. 분석 결과, 통제 불능 상태로 인한 위험이 다른 요소들에 비해 충분히 커질수록, 각 국가의 자국 이익이 일시 중단을 시행하는 방향으로 전환됨을 알 수 있습니다. 또한, 본 연구는 초지능 인공지능의 위험에 대한 전 세계적인 인식이 증가하고 있으며, 이는 현재의 지정학적 환경에서 안정적이고 합리적인 일시 중단이 점점 더 현실적인 가능성이 있음을 시사하는 실증적 증거를 제공합니다.

This paper uses game theory to argue that, contrary to the prevailing view, a moratorium on Artificial Superintelligence (ASI) can be in a state's self-interest. By formalizing trategic interactions between geopolitical superpowers, we model the trade-off between the benefits of technological supremacy and the catastrophic risks of uncontrolled ASI. The analysis reveals that as the perceived cost of loss of control increases sufficiently relative to other parameters, it becomes in each state's self-interest to impose a moratorium. We further provide empirical evidence suggesting that the global perception of ASI risk is rising, making a stable, rational moratorium increasingly plausible in the current geopolitical landscape.