인공지능이 사람들을 정치적 행동으로 설득할 수 있다

Artificial intelligence can persuade people to take political actions

고급 인공지능이 사람들의 행동에 영향을 미칠 수 있다는 우려가 큽니다. 급속도로 증가하는 연구 결과에 따르면, 인공지능은 사람들의 태도에 상당한 설득 효과를 가져올 수 있지만, 인공지능이 사람들을 실제 중요한 행동으로 이끌 수 있는지 여부는 불분명했습니다. 본 연구에서는 두 개의 대규모 사전 등록 실험(N=17,950 응답, 14,779명)을 통해, 대화형 인공지능 모델을 사용하여 참가자들을 다양한 태도 및 행동 결과에 대해 설득하고자 했습니다. 여기에는 실제 청원서 서명 및 자선 단체에 기부하기 등이 포함되었습니다. 연구 결과, 인공지능의 설득 효과는 이러한 행동 결과에 상당한 영향을 미치는 것으로 나타났습니다(예: 청원서 서명률 +19.7% 증가). 그러나, 인공지능이 태도에 미치는 설득 효과와 실제 행동 간에는 어떠한 상관관계도 발견하지 못했습니다. 또한, 기존 연구에서 정보 제공이 태도에 미치는 영향이 확인되었지만, 이러한 현상은 우리의 행동 결과에서는 나타나지 않았습니다. 8가지 행동 설득 전략을 비교한 결과, 모든 전략이 태도 설득 전략보다 효과적이었지만, 8가지 전략 간의 차이는 미미했습니다. 종합적으로 볼 때, 본 연구 결과는 기존 연구에서 태도 변화만을 기준으로 한 결과가 실제 행동에 대한 일반화 가능성이 낮으며, 따라서 인공지능 설득이 실제 행동에 미치는 영향을 크게 왜곡할 위험이 있음을 시사합니다.

There is substantial concern about the ability of advanced artificial intelligence to influence people's behaviour. A rapidly growing body of research has found that AI can produce large persuasive effects on people's attitudes, but whether AI can persuade people to take consequential real-world actions has remained unclear. In two large preregistered experiments N=17,950 responses from 14,779 people), we used conversational AI models to persuade participants on a range of attitudinal and behavioural outcomes, including signing real petitions and donating money to charity. We found sizable AI persuasion effects on these behavioural outcomes (e.g. +19.7 percentage points on petition signing). However, we observed no evidence of a correlation between AI persuasion effects on attitudes and behaviour. Moreover, we replicated prior findings that information provision drove effects on attitudes, but found no such evidence for our behavioural outcomes. In a test of eight behavioural persuasion strategies, all outperformed the most effective attitudinal persuasion strategy, but differences among the eight were small. Taken together, these results suggest that previous findings relying on attitudinal outcomes may generalize poorly to behaviour, and therefore risk substantially mischaracterizing the real-world behavioural impact of AI persuasion.