생성형 AI의 집단 행동에는 상호작용주의 패러다임이 필요하다

Generative AI collective behavior needs an interactionist paradigm

이 논문에서 우리는 거대언어모델(LLM) 기반 에이전트의 집단 행동을 이해하는 것이 위험과 이점 측면에서 중요한 시사점을 가지며 사회 전반에 영향을 미치는 필수적인 연구 분야라고 주장한다. 우리는 LLM의 독특한 특성, 즉 방대한 사전 학습 지식 및 암묵적인 사회적 사전 믿음(priors)으로 초기화된다는 점과 문맥 내 학습(in-context learning)을 통한 적응 능력이 상호작용주의 패러다임의 필요성을 제기한다고 본다. 다중 에이전트 생성형 AI 시스템 내에서 사전 지식과 내재된 가치가 사회적 맥락과 상호작용하여 어떻게 창발적 현상을 형성하는지 체계적으로 조사하기 위해서는 대안적인 이론적 기초, 방법론 및 분석 도구로 구성된 상호작용주의 패러다임이 필요하다. 이에 우리는 이론, 방법론, 초학제적 대화에 초점을 맞추어 LLM 기반 집단의 개발 및 배포에 중요하다고 생각되는 네 가지 방향을 제안하고 논의한다.

In this article, we argue that understanding the collective behavior of agents based on large language models (LLMs) is an essential area of inquiry, with important implications in terms of risks and benefits, impacting us as a society at many levels. We claim that the distinctive nature of LLMs--namely, their initialization with extensive pre-trained knowledge and implicit social priors, together with their capability of adaptation through in-context learning--motivates the need for an interactionist paradigm consisting of alternative theoretical foundations, methodologies, and analytical tools, in order to systematically examine how prior knowledge and embedded values interact with social context to shape emergent phenomena in multi-agent generative AI systems. We propose and discuss four directions that we consider crucial for the development and deployment of LLM-based collectives, focusing on theory, methods, and trans-disciplinary dialogue.