BotSim: 유용한 봇을 활용하여 음모론 집단의 형성을 완화하는 방법

BotSim: Mitigating The Formation Of Conspiratorial Societies with Useful Bots

사회는 다수의 구성원이 음모론을 믿고 전파하는 음모론 사회로 변질될 수 있습니다. 인공지능의 발전으로 인해 소셜 미디어 봇이 등장하여 음모론을 자동적으로 확산시키고 있습니다. 현재, 기관들은 수동적인 사실 확인 프로세스와 반론 전략을 통해 음모론 확산을 막으려고 노력하고 있습니다. 하지만, 이러한 자동화 기술을 활용하여 유용한 봇을 만드는 것이 어떤 효과를 가져올지는 충분히 연구되지 않았습니다. 이에, 우리는 BotSim이라는 에이전트 기반 모델을 개발했습니다. 이 모델은 작은 세상 네트워크 내에서 유용한 봇이 도입된 사회를 시뮬레이션합니다. 이 유용한 봇들은 다음과 같습니다: 잘못된 정보를 올바른 정보로 수정하는 '정보 수정 봇'과, 긍정적인 메시지를 전달하는 '긍정 봇'. 시뮬레이션된 에이전트들은 정보를 생성하고, 소비하고, 전파하며 상호 작용합니다. 우리의 연구 결과는, 통제되지 않은 '나쁜 봇'이 음모론 사회를 형성할 수 있으며, '정보 수정 봇' 또는 '긍정 봇'을 통해 이러한 현상을 완화할 수 있다는 것을 보여줍니다. 특히, '긍정 봇'이 '정보 수정 봇'보다 효율적이고 지속 가능한 것으로 나타났습니다. 선제적인 긍정적인 메시지 전달이, 사후적인 정보 수정보다 자원 효율성이 높습니다. 이러한 관찰 결과를 바탕으로, 우리는 봇의 개념을 악의적인 소셜 미디어 에이전트에서, 선과 악 모두에 사용될 수 있는 자동화된 소셜 미디어 에이전트로 확장합니다. 이러한 연구 결과는 건강한 소셜 사이버 생태계를 유지하기 위한 커뮤니케이션 전략을 설계하는 데 중요한 시사점을 제공합니다.

Societies can become a conspiratorial society where there is a majority of humans that believe, and therefore spread, conspiracy theories. Artificial intelligence gave rise to social media bots that can spread conspiracies in an automated fashion. Currently, organizations combat the spread of conspiracies through manual fact-checking processes and the dissemination of counter-narratives. However, the effects of harnessing the same automation to create useful bots are not well explored. To address this, we create BotSim, an Agent-Based Model of a society in which useful bots are introduced into a small world network. These useful bots are: Info-Correction Bots, which correct bad information into good, and Good Bots, which put out good messaging. The simulated agents interact through generating, consuming and propagating information. Our results show that, left unchecked, Bad Bots can create a conspiratorial society, and this can be mitigated by either Info-Correction Bots or Good Bots; however, Good Bots are more efficient and sustainable than Info-Correction Bots . Proactive good messaging is more resource-effective than reactive information correction. With our observations, we expand the concept of bots as a malicious social media agent towards automated social media agent that can be used for both good and bad purposes. These results have implications for designing communication strategies to maintain a healthy social cyber ecosystem.