사회적 규범 학습이 인간-AI 협업에서 호환성을 향상시킨다

Learning social norms enhances compatibility in dynamic human-AI coordination

인간은 끊임없이 동적인 상호작용 속에서 다른 사람들과 협력하며, 이때는 종종 명시적으로 정의하기 어려운 사회적 규범들이 작용하여 상호작용 주체 간의 암묵적인 기대치를 형성합니다. 인공지능 에이전트, 특히 대규모 언어 모델(LLM)이 일상생활에 점점 더 많이 활용되면서, 이러한 상호작용에 참여하고 사회적 상호작용 구조를 변화시키게 됩니다. 그러나 현재의 AI 에이전트는 종종 인간과 효과적이고 배려하며 자연스러운 방식으로 협력하는 데 어려움을 겪습니다. 본 연구에서는 이러한 문제점이 기존의 접근 방식이 인간의 행동 시연을 기반으로 모델의 동작을 조정하지만, 그러한 행동을 생성하는 근본적인 규범을 명시적으로 정량화하지 않기 때문에 발생한다고 가정합니다. 대표적인 동적 상호작용인 보행자-차량 상호작용을 선정하고, 핵심 상호작용 특징을 포착하는 단순화된 실험 플랫폼을 개발했습니다. 이 플랫폼을 통해 수집된 3,456건의 인간 상호작용 데이터를 분석한 결과, 인간 사회적 규범에 대한 세 가지 원칙인 '결과 예측 가능성', '가치 정렬', 그리고 '이익 인식'을 도출했습니다. 이러한 원칙들을 AI 에이전트에 통합함으로써 인간-AI 협업 능력이 크게 향상되었습니다. 폐쇄 루프 방식으로 인간과의 상호작용 실험에서, 사회적 규범을 반영한 LLM은 기준 전략보다 총 점수가 거의 4배 높았으며, 인간-인간 상호작용 결과보다 43% 더 높은 성과를 보였습니다. 이러한 결과는 암묵적인 사회적 규범을 명시적이고 정량화 가능한 원칙으로 공식화함으로써 AI 에이전트가 동적인 상호작용에서 상호 이익을 얻는 협력을 달성하고, 인간 사회에 더욱 자연스럽게 통합될 수 있음을 시사합니다.

Humans continuously coordinate with others in dynamic interactions, often through implicit, hard-to-quantify social norms that act as shared tacit expectations among interacting agents. As AI agents, including large language models (LLMs), become embedded in daily life, they increasingly participate in such interactions and reshape social interaction structures. Yet they often fail to coordinate with humans in an effective, considerate, and natural manner. We hypothesize that this gap arises because existing approaches align model behavior with human demonstrations without explicitly quantifying the underlying norms that generate such behavior. We selected pedestrian-vehicle interaction as a representative dynamic interaction and developed a simplified experimental platform that captures its key interactive features. From 3,456 dynamic human interactions collected via this platform, we identified three principles underlying human social norms: outcome predictability, value alignment, and advantage awareness. Incorporating these principles into AI agents significantly improves human-AI coordination. In the closed-loop interaction task with humans, the social-norm-informed LLM achieved a nearly fourfold higher total score than the baseline strategy and outperformed human-human interactions by 43%. These findings indicate that formalizing tacit social norms into explicit, quantifiable principles can enable AI agents to achieve mutually beneficial coordination in dynamic interactions, supporting their more natural integration into human society.