DoctorAgents: 소규모 임상 시계열 데이터에 대한 자동화된 머신러닝 파이프라인을 반복적으로 개선하기 위한 에이전트 기반 프레임워크

DoctorAgents: an agentic framework to iteratively refine AutoML pipeline for small clinical temporal data

임상 머신러닝(ML)은 중요한 의료 의사 결정을 지원할 잠재력을 가지고 있지만, 신뢰성 있는 배포는 종종 희소하고 이질적이며 시간 복잡성이 높은 데이터로 인해 제한됩니다. 이러한 데이터에 대한 효과적인 ML 파이프라인을 개발하는 것은 시간이 많이 소요되고 오류가 발생하기 쉽습니다. 기존의 자동화된 머신러닝(AutoML) 시스템은 대부분 미리 정의된 공간에서의 무차별적인 탐색에 의존하고 명시적인 추론 및 기억 능력이 부족하여 이러한 문제를 부분적으로만 해결합니다. 따라서 우리는 소규모 임상 데이터를 위한 AutoML을, 광범위한 탐색에서 벗어나 추론 기반의 반복적 개선으로 재정의하고자 합니다. 본 논문에서는 DoctorAgents라는 에이전트 기반 AI 프레임워크를 제안합니다. DoctorAgents는 특수 목적의 대규모 언어 모델(LLM) 에이전트를 활용하여 생성, 검증 및 개선 단계를 거쳐 전체 ML 파이프라인을 자율적으로 구축하고 최적화합니다. DoctorAgents는 텍스트 기반 그래디언트 강하를 통해 자연어 피드백을 역전파하여, 광범위한 탐색 없이도 목표 지향적인 업데이트를 수행합니다. 다양한 임상 작업에 대한 실험 결과, DoctorAgents는 기존의 AutoML 기준 성능보다 일관되게 우수한 성능을 보이며, 더 해석 가능한 작업별 표현을 생성하는 것으로 나타났습니다.

Clinical machine learning (ML) has the potential to support high-stakes medical decision-making, but reliable deployment is often constrained by scarce, heterogeneous, and temporal complexity. Developing effective ML pipelines for such data remains time-consuming and error-prone, while existing automated machine learning (AutoML) systems only partially address this challenge because they largely rely on brute-force search over predefined spaces and lack explicit reasoning and memory. We therefore reformulate AutoML for small clinical data from exhaustive search to reasoning-driven refinement. We propose DoctorAgents, an agentic AI framework that autonomously constructs and optimizes end-to-end ML pipelines through specialized large language model (LLM) agents for generation, validation, and refinement. DoctorAgents backpropagates natural-language feedback through textual gradient descent to perform targeted updates without exhaustive search. Experiments across diverse clinical tasks show that DoctorAgents consistently outperforms established AutoML baselines while producing more interpretable task-specific representations.