다양한 과학 기반 모델 협업을 위한 이종 프레임워크

Heterogeneous Scientific Foundation Model Collaboration

에이전트 기반의 대규모 언어 모델 시스템은 뛰어난 성능을 보여주었습니다. 하지만 이러한 시스템은 언어를 보편적인 인터페이스로 사용하기 때문에, 특히 자연어 이상의 전문적인 작업을 수행하기 위해 개발된 도메인 특화 기반 모델이 필요한 과학 분야의 많은 실제 문제에 적용하는 데 근본적인 한계가 있습니다. 본 연구에서는 언어 중심 시스템의 적용 범위를 확장하여 다양한 과학 기반 모델을 통합할 수 있도록 설계된 이종 에이전트 프레임워크인 Eywa를 소개합니다. Eywa의 핵심 아이디어는 도메인 특화 기반 모델에 언어 모델 기반 추론 인터페이스를 결합하여, 언어 모델이 비언어적 데이터 모달리티에 대한 추론을 안내하도록 하는 것입니다. 이러한 설계는 일반적으로 특정 데이터와 작업에 최적화된 예측 기반 모델이 에이전트 시스템 내에서 상위 수준의 추론 및 의사 결정 프로세스에 참여할 수 있도록 합니다. Eywa는 단일 에이전트 파이프라인(EywaAgent)으로 사용하거나 기존 멀티 에이전트 시스템에 통합하여 기존 에이전트를 전문화된 에이전트(EywaMAS)로 대체할 수 있습니다. 또한, 우리는 계획 기반의 오케스트레이션 프레임워크(EywaOrchestra)를 추가로 연구하는데, 이 프레임워크는 플래너가 기존 에이전트와 Eywa 에이전트를 동적으로 조정하여 다양한 데이터 모달리티에 걸쳐 복잡한 작업을 해결합니다. 우리는 물리, 생명, 사회 과학을 아우르는 다양한 과학 분야에서 Eywa를 평가했습니다. 실험 결과는 Eywa가 구조화된 데이터 및 도메인 특화 데이터를 포함하는 작업에서 성능을 향상시키고, 전문화된 기반 모델과의 효과적인 협력을 통해 언어 기반 추론에 대한 의존성을 줄이는 것을 보여줍니다.

Agentic large language model systems have demonstrated strong capabilities. However, their reliance on language as the universal interface fundamentally limits their applicability to many real-world problems, especially in scientific domains where domain-specific foundation models have been developed to address specialized tasks beyond natural language. In this work, we introduce Eywa, a heterogeneous agentic framework designed to extend language-centric systems to a broader class of scientific foundation models. The key idea of Eywa is to augment domain-specific foundation models with a language-model-based reasoning interface, enabling language models to guide inference over non-linguistic data modalities. This design allows predictive foundation models, which are typically optimized for specialized data and tasks, to participate in higher-level reasoning and decision-making processes within agentic systems. Eywa can serve as a drop-in replacement for a single-agent pipeline (EywaAgent) or be integrated into existing multi-agent systems by replacing traditional agents with specialized agents (EywaMAS). We further investigate a planning-based orchestration framework in which a planner dynamically coordinates traditional agents and Eywa agents to solve complex tasks across heterogeneous data modalities (EywaOrchestra). We evaluate Eywa across a diverse set of scientific domains spanning physical, life, and social sciences. Experimental results demonstrate that Eywa improves performance on tasks involving structured and domain-specific data, while reducing reliance on language-based reasoning through effective collaboration with specialized foundation models.