SAGE-LLM: 퍼지-CBF 검증 및 그래프 기반 지식 검색을 통한 안전하고 일반화 가능한 LLM 기반 UAV 제어 시스템

SAGE-LLM: Towards Safe and Generalizable LLM Controller with Fuzzy-CBF Verification and Graph-Structured Knowledge Retrieval for UAV Decision

무인항공기(UAV)의 동적 의사결정에서 복잡하고 가변적인 위험 요소는 알고리즘의 일반화 능력에 심각한 어려움을 야기합니다. 대규모 언어 모델(LLM)은 의미론적 이해 및 장면 일반화를 제공하지만, 도메인 특정 UAV 제어 지식과 형식적인 안전성 보장이 부족하여 직접적인 적용에 제약이 있습니다. 이러한 격차를 해소하기 위해, 본 논문에서는 LLM을 기반으로 하는 훈련이 필요 없는 두 계층의 의사결정 아키텍처를 제안합니다. 이 프레임워크는 고수준 안전 계획과 저수준 정밀 제어를 통합합니다. 제안하는 프레임워크는 다음 세 가지 핵심 기여를 제공합니다. 1) 의미론적으로 강화된 동작에 대한 퍼지 제어 장벽 함수(CBF) 검증 메커니즘을 통해 LLM의 출력에 대한 검증 가능한 안전성 인증을 제공합니다. 2) 스타 계층 구조 기반 그래프를 활용한 검색 증강 생성 시스템을 통해 효율적이고 유연하며 해석 가능한 장면 적응을 가능하게 합니다. 3) 알려지지 않은 장애물과 예측 불가능한 위협이 존재하는 추격-회피 시나리오에서 체계적인 실험적 검증을 통해, 제안하는 SAGE-LLM은 온라인 훈련 없이 성능을 유지하면서 안전성과 일반화 능력을 크게 향상시킵니다. 제안하는 프레임워크는 강력한 확장성을 보여주며, 더 넓은 범위의 자율 시스템 및 안전이 중요한 제어 영역으로의 일반화 가능성을 시사합니다.

In UAV dynamic decision, complex and variable hazardous factors pose severe challenges to the generalization capability of algorithms. Despite offering semantic understanding and scene generalization, Large Language Models (LLM) lack domain-specific UAV control knowledge and formal safety assurances, restricting their direct applicability. To bridge this gap, this paper proposes a train-free two-layer decision architecture based on LLMs, integrating high-level safety planning with low-level precise control. The framework introduces three key contributions: 1) A fuzzy Control Barrier Function verification mechanism for semantically-augmented actions, providing provable safety certification for LLM outputs. 2) A star-hierarchical graph-based retrieval-augmented generation system, enabling efficient, elastic, and interpretable scene adaptation. 3) Systematic experimental validation in pursuit-evasion scenarios with unknown obstacles and emergent threats, demonstrating that our SAGE-LLM maintains performance while significantly enhancing safety and generalization without online training. The proposed framework demonstrates strong extensibility, suggesting its potential for generalization to broader embodied intelligence systems and safety-critical control domains.