PseudoBench: 에이전트 기반 자동 연구가 어떻게 유사과학을 조장하는지 측정

PseudoBench: Measuring How Agentic Auto-Research Fuels Pseudoscience

대규모 언어 모델 기반 에이전트들이 자율적인 과학 연구에 도입됨에 따라, 이들이 유사과학에 저항할 수 있는 능력은 점점 더 중요해지고 있습니다. 그렇지 않으면 이러한 시스템들은 그럴듯하지만 오해를 불러일으키는 연구 결과를 빠르게 생성하여 학술 문헌을 오염시키고 과학에 대한 신뢰를 약화시킬 수 있습니다. 본 논문에서는 에이전트 기반 자동 연구 시스템들이 유사과학적 주장을 식별하고 이에 저항할 수 있는지 평가하기 위한 적대적인 벤치마크인 PseudoBench를 소개합니다. PseudoBench는 다섯 가지 분야에 걸쳐 선별된 200개의 유사과학적 주장-증거 쌍으로 구성되어 있으며, 실험부터 논문 작성까지 전체 연구 프로세스를 통해 에이전트의 성능을 평가합니다. 최첨단 에이전트 7개를 테스트한 결과, 현재 시스템들은 유사과학적인 전제와 일치하는 설득력 있는 보고서를 거의 거부 없이 생성하며, 가장 높은 저항률은 27.4%에 불과했습니다. 더욱 발전된 에이전트는 유사과학을 더 정교한 과학 용어로 포장하여 그 신뢰도를 높일 위험이 있습니다. 이러한 결과는 유사과학을 조장하는 심각한 가능성을 보여주며, 광범위한 배포 전에 과학적 올바움을 확보해야 할 필요성을 강조합니다.

As Large Language Model based agents enter autonomous scientific research, their ability to resist pseudoscience becomes increasingly important. Otherwise, such systems may rapidly generate plausible yet misleading studies that contaminate academic literature and erode trust in science. We present PseudoBench, an adversarial benchmark for evaluating whether agentic auto-research systems can identify and resist pseudoscientific narratives. PseudoBench contains 200 curated pseudoscientific claim-evidence pairs across five domains and evaluates agents through an end-to-end research pipeline from experiments to writing. Testing seven state-of-the-art agents, we find that current systems readily produce persuasive reports that align with pseudoscientific premises with near-zero refusal rates and the highest resistance of only 27.4%. Stronger agents risk packaging pseudoscience in more sophisticated scientific language, increasing its apparent credibility. These findings reveal an alarming capacity to fuel pseudoscience, calling for scientific alignment before widespread deployment.