ClinicalReTrial: 임상시험 프로토콜 최적화를 위한 자가 진화형 AI 에이전트

ClinicalReTrial: A Self-Evolving AI Agent for Clinical Trial Protocol Optimization

임상시험 실패는 신약 개발의 주요 병목 현상으로 남아 있으며, 치료제의 유망성에도 불구하고 사소한 프로토콜 설계 결함이 결과를 돌이킬 수 없이 훼손할 수 있습니다. 최첨단 AI 기법들이 임상시험 성공 예측에서 뛰어난 성능을 보이고는 있으나, 이는 단지 위험을 진단할 뿐 실패가 예상될 때 실질적인 해결책을 제시하지 못한다는 점에서 본질적으로 수동적입니다. 이러한 한계를 극복하기 위해 본 논문에서는 임상시험 추론 과정을 반복적인 프로토콜 재설계 문제로 정의하여 해결하는 자가 진화형 AI 에이전트 프레임워크인 ClinicalReTrial을 제안합니다. 제안하는 방법론은 실패 진단, 안전성을 고려한 수정, 후보 평가 과정을 폐루프 형태의 보상 기반 최적화 프레임워크로 통합합니다. ClinicalReTrial은 결과 예측 모델을 시뮬레이션 환경으로 활용하여 프로토콜 수정에 대한 저비용 평가를 수행하고, 지속적인 자기 개선을 위한 밀도 높은 보상 신호를 제공합니다. 또한 효율적인 탐색을 지원하기 위해, 개별 시험 내 반복 단계의 피드백을 포착하고 여러 시험에 걸쳐 전이 가능한 재설계 패턴을 추출하는 계층적 메모리를 유지합니다. 실증 실험 결과, ClinicalReTrial은 임상시험 프로토콜의 83.3%를 개선하여 평균 5.7%의 성공 확률 증가를 달성했으며, 후향적 사례 연구를 통해 모델이 도출한 재설계 전략이 실제 임상시험 수정 사례와 매우 밀접하게 일치함을 입증하였습니다.

Clinical trial failure remains a central bottleneck in drug development, where minor protocol design flaws can irreversibly compromise outcomes despite promising therapeutics. Although cutting-edge AI methods achieve strong performance in predicting trial success, they are inherently reactive for merely diagnosing risk without offering actionable remedies once failure is anticipated. To fill this gap, this paper proposes ClinicalReTrial, a self-evolving AI agent framework that addresses this gap by casting clinical trial reasoning as an iterative protocol redesign problem. Our method integrates failure diagnosis, safety-aware modification, and candidate evaluation in a closed-loop, reward-driven optimization framework. Serving the outcome prediction model as a simulation environment, ClinicalReTrial enables low-cost evaluation of protocol modifications and provides dense reward signals for continuous self-improvement. To support efficient exploration, the framework maintains hierarchical memory that captures iteration-level feedback within trials and distills transferable redesign patterns across trials. Empirically, ClinicalReTrial improves 83.3% of trial protocols with a mean success probability gain of 5.7%, and retrospective case studies demonstrate strong alignment between the discovered redesign strategies and real-world clinical trial modifications.