동료 심사의 붕괴를 막으려면 검증 우선 AI가 필요하다

Preventing the Collapse of Peer Review Requires Verification-First AI

본 논문은 AI 지원 동료 심사가 리뷰를 모방하는 것이 아니라 검증을 최우선으로 해야 한다고 주장한다. 우리는 심사 도구의 올바른 목표로서, 베뉴 점수가 잠재적 과학적 진실을 얼마나 밀접하게 추적하는지를 의미하는 '진실 결합(truth-coupling)'을 제안한다. 또한 '대리 지표가 지배하는(proxy-sovereign)' 평가로의 상전이를 유발하는 두 가지 힘을 공식화한다. 이는 주장이 검증 역량을 초과할 때 발생하는 '검증 압력'과, 실질적인 개선이 잡음과 구별하기 어려워질 때 발생하는 '신호 축소'이다. 간헐적인 고정밀 검사와 빈번한 대리 판단을 혼합한 최소 모델을 통해, 우리는 명시적 결합 법칙을 도출하고, 현재의 결정이 여전히 신뢰할 수 있어 보일지라도 합리적 노력이 진실 추구에서 대리 지표 최적화로 이동하게 되는 '인센티브 붕괴 조건'을 제시한다. 이러한 결과는 도구 개발자와 프로그램 위원장에게 AI를 주장의 과장을 증폭시키는 점수 예측기가 아니라, 감사 가능한 검증 산출물을 생성하고 유효 검증 대역폭을 확장하는 '적대적 감사자'로 배포할 것을 촉구한다.

This paper argues that AI-assisted peer review should be verification-first rather than review-mimicking. We propose truth-coupling, i.e. how tightly venue scores track latent scientific truth, as the right objective for review tools. We formalize two forces that drive a phase transition toward proxy-sovereign evaluation: verification pressure, when claims outpace verification capacity, and signal shrinkage, when real improvements become hard to separate from noise. In a minimal model that mixes occasional high-fidelity checks with frequent proxy judgment, we derive an explicit coupling law and an incentive-collapse condition under which rational effort shifts from truth-seeking to proxy optimization, even when current decisions still appear reliable. These results motivate actions for tool builders and program chairs: deploy AI as an adversarial auditor that generates auditable verification artifacts and expands effective verification bandwidth, rather than as a score predictor that amplifies claim inflation.