에이전트 선택: 다자간 협상에서 AI 조언자, 코치 및 대리인 도입에 따른 상충관계

Choose Your Agent: Tradeoffs in Adopting AI Advisors, Coaches, and Delegates in Multi-Party Negotiation

사회적 맥락에서 AI 사용이 보편화됨에 따라, 에이전트와 사용자 간의 상호작용을 이해하는 것은 개인 및 그룹의 성과를 향상시키는 시스템을 설계하는 데 필수적이다. 본 연구는 참가자들이 3인 1조로 3개의 다중 턴 협상 게임을 진행하는 온라인 행동 실험(N = 243)을 제시한다. 무작위 순서로 진행되는 각 게임은 단일 LLM 지원 모달리티에 대한 접근 권한을 부여한다: 조언자(Advisor)의 선제적 추천, 코치(Coach)의 반응형 피드백, 또는 대리인(Delegate)의 자율적 실행이 그것이다. 모든 모달리티는 전체 에이전트 환경에서 초인적인 성능을 달성하는 기반 LLM에 의해 구동된다. 매 턴마다 참가자들은 직접 행동할지, 아니면 해당 게임에서 제공되는 AI 모달리티를 사용할지를 비공개로 결정한다. 참가자들은 조언자 모달리티를 선호함에도 불구하고 대리인을 통해 가장 높은 평균 개인 이득을 달성하여, 선호도와 성능 간의 불일치를 보여준다. 더욱이 대리 기능은 긍정적인 외부 효과를 창출한다. 대리인 접근이 허용된 실험 집단에서는 대리인을 채택하지 않은 사용자조차도 더 높은 품질의 제안을 받아 이익을 얻는다. 메커니즘 분석에 따르면 대리인 에이전트는 시장 조성자 역할을 하여 거래 환경을 재구성하는 합리적이고 파레토 개선적인 제안을 투입한다. 본 연구는 에이전트의 능력과 실제로 실현된 그룹 후생 간의 격차를 밝혀낸다. 자율 에이전트가 초인적인 전략적 성능을 발휘할 수는 있지만, 실현 가능한 후생 증가에 미치는 영향은 인터페이스, 사용자 인식 및 채택 장벽에 의해 제한될 수 있다. 지원 모달리티는 내생적 참여를 수반하는 메커니즘으로 설계되어야 하며, 채택 양립적인 상호작용 규칙은 자동화된 지원을 통해 인간의 후생을 향상시키기 위한 전제 조건이다.

As AI usage becomes more prevalent in social contexts, understanding agent-user interaction is critical to designing systems that improve both individual and group outcomes. We present an online behavioral experiment (N = 243) in which participants play three multi-turn bargaining games in groups of three. Each game, presented in randomized order, grants access to a single LLM assistance modality: proactive recommendations from an Advisor, reactive feedback from a Coach, or autonomous execution by a Delegate; all modalities are powered by an underlying LLM that achieves superhuman performance in an all-agent environment. On each turn, participants privately decide whether to act manually or use the AI modality available in that game. Despite preferring the Advisor modality, participants achieve the highest mean individual gains with the Delegate, demonstrating a preference-performance misalignment. Moreover, delegation generates positive externalities; even non-adopting users in access-to-delegate treatment groups benefit by receiving higher-quality offers. Mechanism analysis reveals that the Delegate agent acts as a market maker, injecting rational, Pareto-improving proposals that restructure the trading environment. Our research reveals a gap between agent capabilities and realized group welfare. While autonomous agents can exhibit super-human strategic performance, their impact on realized welfare gains can be constrained by interfaces, user perceptions, and adoption barriers. Assistance modalities should be designed as mechanisms with endogenous participation; adoption-compatible interaction rules are a prerequisite to improving human welfare with automated assistance.