Safe-SDL: AI 기반 자율 주행 실험실의 안전 경계 및 제어 메커니즘 구축

Safe-SDL:Establishing Safety Boundaries and Control Mechanisms for AI-Driven Self-Driving Laboratories

자율 주행 실험실(SDL)의 등장은 인공지능을 로봇 자동화와 통합하여 자율적인 가설 생성, 실험 및 분석이 가능한 폐쇄 루프 실험 시스템을 구축함으로써 과학적 발견 방법론을 혁신합니다. SDL은 연구 기간을 수년에서 몇 주로 단축할 수 있는 잠재력을 가지고 있지만, 기존의 실험실이나 순수 디지털 AI 시스템과는 다른 전례 없는 안전 문제를 야기합니다. 본 논문에서는 AI 기반 자율 실험실에 견고한 안전 경계 및 제어 메커니즘을 구축하기 위한 포괄적인 프레임워크인 Safe-SDL을 제시합니다. 본 연구에서는 AI가 생성한 문법적으로 정확한 명령과 실제 물리적 안전상의 의미 간의 불일치, 즉 '구문-안전 격차'를 SDL 배포의 핵심적인 과제로 파악하고 분석합니다. 본 프레임워크는 세 가지 상호 보완적인 구성 요소, 즉 (1) 수학적으로 검증된 경계를 통해 시스템 동작을 제한하는 형식적으로 정의된 운영 설계 영역(ODD), (2) 지속적인 상태 공간 모니터링을 통해 실시간 안전 보장을 제공하는 제어 장벽 함수(CBF), (3) 디지털 계획과 물리적 실행 간의 원자적 일관성을 보장하는 새로운 트랜잭션 안전 프로토콜(CRUTD)을 통해 이 격차를 해소합니다. 본 연구는 UniLabOS 및 Osprey 아키텍처를 포함한 기존 구현 사례를 분석하여 이러한 시스템이 핵심 안전 원칙을 어떻게 구현하는지 보여줌으로써 이론적 기여를 뒷받침합니다. LabSafety Bench에 대한 평가는 현재의 기반 모델이 상당한 안전 문제를 가지고 있음을 보여주며, 이는 안전 메커니즘이 선택 사항이 아닌 필수임을 입증합니다. 본 프레임워크는 자율 과학 시스템의 안전한 배치를 위한 이론적 기반과 실제 구현 지침을 제공하며, AI 기반 발견의 책임감 있는 가속화를 위한 기반을 마련합니다.

The emergence of Self-Driving Laboratories (SDLs) transforms scientific discovery methodology by integrating AI with robotic automation to create closed-loop experimental systems capable of autonomous hypothesis generation, experimentation, and analysis. While promising to compress research timelines from years to weeks, their deployment introduces unprecedented safety challenges differing from traditional laboratories or purely digital AI. This paper presents Safe-SDL, a comprehensive framework for establishing robust safety boundaries and control mechanisms in AI-driven autonomous laboratories. We identify and analyze the critical ``Syntax-to-Safety Gap'' -- the disconnect between AI-generated syntactically correct commands and their physical safety implications -- as the central challenge in SDL deployment. Our framework addresses this gap through three synergistic components: (1) formally defined Operational Design Domains (ODDs) that constrain system behavior within mathematically verified boundaries, (2) Control Barrier Functions (CBFs) that provide real-time safety guarantees through continuous state-space monitoring, and (3) a novel Transactional Safety Protocol (CRUTD) that ensures atomic consistency between digital planning and physical execution. We ground our theoretical contributions through analysis of existing implementations including UniLabOS and the Osprey architecture, demonstrating how these systems instantiate key safety principles. Evaluation against the LabSafety Bench reveals that current foundation models exhibit significant safety failures, demonstrating that architectural safety mechanisms are essential rather than optional. Our framework provides both theoretical foundations and practical implementation guidance for safe deployment of autonomous scientific systems, establishing the groundwork for responsible acceleration of AI-driven discovery.