사회적으로 기반된 자율적인 인공지능: 사회 이론을 통한 다양한 관점의 조화

Socially Grounded Agentic AI: Coordinating Plural Perspectives through Social Theory

인공지능 시스템이 점점 더 다양한 사회적 맥락에 적용됨에 따라, 정렬(alignment)은 단일하고 통합된 가치 집합을 최적화하는 것으로만 정의될 수 없습니다. 대신, 시스템은 여러 가지 합법적인 관점을 인식하고, 표현하며, 이에 대응할 수 있어야 합니다. 이는 획일적인 행동 모델을 넘어 다양한 관점을 고려하려는 '다원주의적 정렬(pluralistic alignment)'에 대한 관심 증가로 이어졌습니다. 그러나 현재의 접근 방식은 종종 실제에서 가치들이 어떻게 사회적으로 조직되고, 논쟁되며, 조정되는지에 대한 명확한 설명을 제공하지 못합니다. 본 논문에서는 사회 이론이 이러한 과제를 해결하는 데 필수적인 개념적 및 설계 자원을 제공한다고 주장합니다. 사회학의 확립된 전통을 바탕으로, 우리는 관점이 역할에 의해 구조화되고, 상호작용을 통해 형성되며, 권력과 전문성의 영역에 걸쳐 분산될 수 있음을 보여줍니다. 이러한 통찰력을 인공지능 시스템 설계에 대한 구체적인 함의로 전환하여, 역할 기반 표현, 다양한 관점 간의 체계적인 조정, 그리고 맥락에 민감한 평가 방법을 제시합니다. 자율적인 시스템의 경우, 최종 결과뿐만 아니라 해당 결과를 생성하는 데 관련된 역할 활성화, 의사 결정 과정, 집계 규칙 및 피드백 루프까지 정렬해야 합니다. 본 논문의 기여는 다원주의적 정렬을 단순히 출력 다양화의 문제가 아닌, 사회적으로 기반된 조정 문제로 재정의하는 것입니다. 우리는 체계적이고 투명한 방식으로 다양한 관점을 통합하는 시스템에 대한 설계 공간을 제시하고, 실제 환경에서 이러한 접근 방식을 구현하고 경험적으로 평가하기 위한 향후 연구 방향을 제시합니다.

As AI systems are deployed across increasingly diverse social contexts, alignment can no longer be framed as the optimization of a single, unified set of values. Instead, systems must be able to recognize, represent, and respond to multiple legitimate perspectives. This has led to growing interest in pluralistic alignment, which seeks to move beyond one-size-fits-all models of appropriate behaviour. However, current approaches often lack a clear account of how values are socially organized, contested, and coordinated in practice. In this paper, we argue that social theory provides essential conceptual and design resources for addressing these challenges. Drawing on established traditions in sociology, we show how perspectives can be understood as structured by roles, shaped through interaction, and distributed across fields of power and expertise. We translate these insights into concrete implications for AI system design, including role-based representations, structured coordination among perspectives, and context-sensitive evaluation. For agentic systems, this requires aligning not only final outputs, but also the role activations, deliberative traces, aggregation rules, and feedback loops through which those outputs are produced. Our contribution is to reposition pluralistic alignment as a problem of socially grounded coordination rather than output diversification. We outline a design space for systems that engage multiple perspectives in structured and accountable ways, and we identify directions for future work to implement and empirically evaluate these approaches in real-world settings.