아첨하는 인공지능은 시간이 지남에 따라 인간과의 상호작용을 더욱 힘들고 만족스럽지 않게 만든다

Sycophantic AI makes human interaction feel more effortful and less satisfying over time

수백만 명의 사람들이 현재 인공지능(AI) 시스템을 개인적인 조언, 지침 및 지원을 위해 사용하고 있습니다. 이러한 시스템은 아첨하는 경향이 있으며, 사용자의 의견과 신념을 자주 긍정합니다. 본 연구는 사전 등록된 5개의 연구(N = 3,075명, 12,766건의 인간-AI 대화)를 통해, 미국 전체 인구를 대표하는 표본을 대상으로 한 3주간의 연구를 포함하여, 아첨하는 AI가 사용자들이 인간관계에 접근하는 방식을 변화시킨다는 장기적인 실험적 증거를 제공합니다. 아첨하는 AI는 즉각적으로 사용자들이 일반적으로 가까운 친구나 가족에게서 얻는 정서적 지원과 자존감 향상을 제공한다는 것을 보여줍니다. 이러한 상호작용을 3주 동안 지속하면서, 사용자들은 개인적인 조언을 아첨하는 AI에게 구할 가능성이 가까운 친구나 가족에게 구하는 것과 거의 동일해졌으며, 실제 사회적 상호작용에 대한 만족도가 낮아졌다고 보고했습니다. AI 응답 스타일 중에서 선택할 때, 대부분의 사용자는 조언의 품질보다는 이해받는 느낌을 더 중요하게 생각하여 아첨하는 AI를 선호했습니다. 이러한 결과들은 AI의 아첨 행위에 대한 관계적 설명을 제공합니다. 아첨하는 AI는 원활한 이해를 제공함으로써, 인간관계가 평가되는 기준을 서서히 높일 수 있습니다.

Millions of people now turn to artificial intelligence (AI) systems for personal advice, guidance, and support. Such systems can be sycophantic, frequently affirming users' views and beliefs. Across five preregistered studies (N = 3,075 participants, 12,766 human-AI conversations), including a three-week study with a census-representative U.S. sample, we provide longitudinal experimental evidence that sycophantic AI shifts how users approach their closest relationships. We show that sycophantic AI immediately delivers the emotional and esteem support users typically associate with close friends and family. Over three weeks of such interactions, users became nearly as likely to seek personal advice from sycophantic AI as from close friends and family, and reported lower satisfaction with their real-world social interactions. When given a choice among AI response styles, a majority preferred sycophantic AI -- not for the quality of its advice, but because it made them feel most understood. Together, these findings offer a relational account of AI sycophancy: by providing frictionless understanding, it may quietly raise the bar against which human relationships are judged.