ConceptTree: 로봇 조작을 위한 블랙박스 의사 결정에 의미적 투명성을 부여하는 방법

ConceptTree: Bringing Semantic Transparency to Black-Box Decision Making for Robotic Manipulation

장기간의 로봇 조작에서 해석 가능한 의사 결정 프로세스를 구축하는 것은 신뢰할 수 있는 인간 감독 및 개입을 가능하게 하는 데 매우 중요합니다. 그러나 기존의 로봇 조작 방식은 대부분 기술 선택을 관찰 결과로부터 행동으로의 불투명한 매핑으로 처리하며, 의사 결정 과정에 대한 제한적인 투명성만을 제공합니다. 본 연구에서는 ConceptTree라는 프레임워크를 제안합니다. 이 프레임워크는 고수준 로봇 조작 기술 선택을 인간이 이해할 수 있는 개념에 기반한 추론 문제로 재구성하며, 고수준 정책을 시각적 관찰 결과에 대한 일련의 개념 수준 술어로 표현합니다. 본 방법은 암묵적인 잠재 공간 표현에 의존하는 대신, 시각적 입력에 근거한 정규화된 개념 공간을 학습하고, 이 공간 위에서 의사 결정 트리를 훈련하여 고수준 기술을 예측합니다. 이러한 방식은 추적 가능하고 개입 가능한 투명한 의사 결정 프로세스를 제공하며, 정책의 동작을 직접 검사하고 수정할 수 있도록 합니다. 저희는 다양한 복잡성을 가진 실제 로봇 조작 작업에 대해 이 접근 방식을 평가했습니다. 실험 결과, ConceptTree는 기존의 개념 기반 방법보다 일관되게 우수한 성능을 보이며, 특히 복잡하고 장기간의 시나리오에서 더욱 뛰어난 성능을 나타냅니다. 또한, 저희는 개별 개념을 수정하여 세밀한 수준에서의 개입이 가능하며, 이를 통해 재학습 없이 의사 결정 오류를 정확하게 수정할 수 있다는 것을 보여주는 질적 사례 연구 결과를 제시합니다.

Establishing interpretable decision-making processes in long-horizon robotic manipulation is critical for enabling reliable human oversight and intervention. However, existing approaches to robotic manipulation largely treat skill selection as opaque mappings from observations to actions, offering limited transparency into how decisions are formed. In this work, we propose ConceptTree, a framework that reframes high-level manipulation skill selection as reasoning over human-interpretable concepts, representing high-level policies as a sequence of concept-level predicates over visual observations. Rather than relying on implicit latent representations, our method learns a normalized concept space grounded in visual inputs, over which a decision tree is trained to predict high-level skills. This formulation yields a transparent decision process that is both traceable and intervenable, enabling direct inspection and modification of policy behavior. We evaluate our approach on a set of real-world robotic manipulation tasks with increasing complexity. Experimental results show that ConceptTree consistently outperforms existing concept-based baselines, particularly in complex, long-horizon scenarios. Furthermore, we provide qualitative case studies showing that our model supports fine-grained intervention by modifying individual concepts, enabling targeted correction of decision errors without retraining.