인공지능이 주어졌을 때, 과연 '개구리 시장'이 형성될까요? 인공지능 시스템의 성능에 대한 정보 불균형이 시장 결과와 도입에 미치는 영향에 대한 이해

When Life Gives You AI, Will You Turn It Into A Market for Lemons? Understanding How Information Asymmetries About AI System Capabilities Affect Market Outcomes and Adoption

인공지능 소비자 시장은 심각한 구매자와 공급자 간의 불균형을 특징으로 합니다. 복잡한 인공지능 시스템은 높은 정확도를 보이는 것처럼 보이지만, 상당한 오류를 발생시키거나 숨겨진 결함을 내포할 수 있습니다. 다양한 공개 요구 사항에 대한 규제 노력이 있었지만, 여전히 정보 격차가 큽니다. 본 연구는 시뮬레이션된 인공지능 제품 시장에서 정보 불균형과 공개 설계가 인공지능 시스템의 사용자 채택에 미치는 중요한 영향을 보여주는 최초의 실험적 증거를 제공합니다. 우리는 저품질 인공지능 시스템의 밀도와 공개 요구 사항의 수준을 체계적으로 변화시켜 사람들이 저품질 인공지능 시스템에 의존할 위험에 어떻게 반응하는지 측정합니다. 그런 다음, 참가자들의 선택을 합리적인 베이즈 모델과 비교하여 부분적인 정보 공개가 인공지능 채택을 얼마나 향상시킬 수 있는지 분석합니다. 우리의 결과는 정보 불균형이 인공지능 채택에 미치는 부정적인 영향을 강조하지만, 부분적인 공개 설계가 인간 의사 결정의 전반적인 효율성을 향상시킬 수 있는 잠재력을 보여줍니다.

AI consumer markets are characterized by severe buyer-supplier market asymmetries. Complex AI systems can appear highly accurate while making costly errors or embedding hidden defects. While there have been regulatory efforts surrounding different forms of disclosure, large information gaps remain. This paper provides the first experimental evidence on the important role of information asymmetries and disclosure designs in shaping user adoption of AI systems. We systematically vary the density of low-quality AI systems and the depth of disclosure requirements in a simulated AI product market to gauge how people react to the risk of accidentally relying on a low-quality AI system. Then, we compare participants' choices to a rational Bayesian model, analyzing the degree to which partial information disclosure can improve AI adoption. Our results underscore the deleterious effects of information asymmetries on AI adoption, but also highlight the potential of partial disclosure designs to improve the overall efficiency of human decision-making.