인간-로봇 상호작용을 위한 안전한 확률적 계획: 컨포멀 위험 제어를 활용

Safe Probabilistic Planning for Human-Robot Interaction using Conformal Risk Control

본 논문에서는 인간-로봇 상호작용을 위한 새로운 확률적 안전 제어 프레임워크를 제시합니다. 이 프레임워크는 제어 장벽 함수(CBF)와 컨포멀 위험 제어를 결합하여 복잡한 인간 행동을 고려하면서도 형식적인 안전 보장을 제공합니다. 제안된 방법은 컨포멀 위험 제어를 사용하여 CBF 안전 값의 예측 오차를 정량화하고 제어하며, 상호작용 과정에서 제약 조건 만족 확률에 대한 형식적인 보장을 설정합니다. 또한, 현재 상호작용 상황에 따라 컨포멀 위험 제어가 생성하는 안전 마진을 동적으로 조정하는 알고리즘을 소개합니다. 인간-로봇 내비게이션 시나리오에 대한 실험을 통해, 제안된 방법이 기존 방법과 비교하여 충돌률과 안전 위반을 크게 줄이면서 목표 달성률이 높고 효율적인 제어를 유지함을 보여줍니다. 코드, 시뮬레이션 및 기타 추가 자료는 프로젝트 웹사이트에서 확인할 수 있습니다: https://jakeagonzales.github.io/crc-cbf-website/.

In this paper, we present a novel probabilistic safe control framework for human-robot interaction that combines control barrier functions (CBFs) with conformal risk control to provide formal safety guarantees while considering complex human behavior. The approach uses conformal risk control to quantify and control the prediction errors in CBF safety values and establishes formal guarantees on the probability of constraint satisfaction during interaction. We introduce an algorithm that dynamically adjusts the safety margins produced by conformal risk control based on the current interaction context. Through experiments on human-robot navigation scenarios, we demonstrate that our approach significantly reduces collision rates and safety violations as compared to baseline methods while maintaining high success rates in goal-reaching tasks and efficient control. The code, simulations, and other supplementary material can be found on the project website: https://jakeagonzales.github.io/crc-cbf-website/.