신뢰성 거버넌스: 약한 진실 신호 환경에서 집단적 자기 교정을 위한 사회적 메커니즘

Credibility Governance: A Social Mechanism for Collective Self-Correction under Weak Truth Signals

온라인 플랫폼은 점점 더 실제 세계의 관심과 자원을 배분하기 위해 의견 집계를 활용하지만, 참여 투표나 자본 가중 방식과 같은 일반적인 신호는 쉽게 왜곡될 수 있으며, 종종 신뢰성보다는 가시성을 반영합니다. 이러한 현상은 약한 진실 신호, 노이즈 또는 지연된 피드백, 초기 인기도 급증, 그리고 전략적 조작으로 인해 집단적 판단을 취약하게 만듭니다. 본 논문에서는 '신뢰성 거버넌스(Credibility Governance, CG)'라는 메커니즘을 제안합니다. CG는 변화하는 공공 증거를 지속적으로 반영하는 에이전트와 관점을 학습하여 영향력을 재분배합니다. CG는 에이전트와 의견 모두에 대해 동적인 신뢰성 점수를 유지하고, 신뢰성 가중 추천을 통해 의견의 영향력을 업데이트하며, 에이전트의 신뢰성은 그들이 지지하는 의견의 장기적인 성과를 기반으로 업데이트됩니다. 이를 통해 CG는 새로운 증거와의 조기 및 지속적인 일치를 장려하고 일시적인 노이즈를 걸러냅니다. 우리는 불확실성 하에서 결합된 믿음 역학과 하위 피드백을 모델링하는 사회-물리 시뮬레이션 환경인 POLIS에서 CG를 평가했습니다. 초기 다수 의견 불일치, 관찰 노이즈 및 오염, 그리고 허위 정보 충격과 같은 다양한 환경에서 CG는 투표 기반, 지분 가중 방식, 그리고 거버넌스 없는 기준 모델보다 우수한 성능을 보였습니다. CG는 진실한 상태로의 빠른 회복, 락인 현상 및 경로 의존성 감소, 그리고 적대적인 압력 하에서의 향상된 견고성을 제공합니다. 본 논문의 구현 및 실험 스크립트는 다음 URL에서 공개적으로 이용 가능합니다: https://github.com/Wanying-He/Credibility_Governance.

Online platforms increasingly rely on opinion aggregation to allocate real-world attention and resources, yet common signals such as engagement votes or capital-weighted commitments are easy to amplify and often track visibility rather than reliability. This makes collective judgments brittle under weak truth signals, noisy or delayed feedback, early popularity surges, and strategic manipulation. We propose Credibility Governance (CG), a mechanism that reallocates influence by learning which agents and viewpoints consistently track evolving public evidence. CG maintains dynamic credibility scores for both agents and opinions, updates opinion influence via credibility-weighted endorsements, and updates agent credibility based on the long-run performance of the opinions they support, rewarding early and persistent alignment with emerging evidence while filtering short-lived noise. We evaluate CG in POLIS, a socio-physical simulation environment that models coupled belief dynamics and downstream feedback under uncertainty. Across settings with initial majority misalignment, observation noise and contamination, and misinformation shocks, CG outperforms vote-based, stake-weighted, and no-governance baselines, yielding faster recovery to the true state, reduced lock-in and path dependence, and improved robustness under adversarial pressure. Our implementation and experimental scripts are publicly available at https://github.com/Wanying-He/Credibility_Governance.