평생 학습 기반 언어 조건 로봇 조작 학습

Lifelong Language-Conditioned Robotic Manipulation Learning

기존의 언어 기반 조작 에이전트는 새로운 조작 기술에 순차적으로 적응할 때, 기존 기술을 잊어버리는 현상(catastrophic forgetting)이 발생하여 동적인 환경에서의 활용이 제한됩니다. 본 논문에서는 이러한 문제를 해결하기 위해, 기존 기술의 잊힘을 최소화하면서 여러 기술을 지속적으로 학습할 수 있도록 설계된 새로운 로봇 조작 프레임워크인 SkillsCrafter를 제안합니다. 구체적으로, SkillsCrafter는 기존 기술의 지식을 유지하면서 새로운 기술 학습을 용이하게 하기 위해, 새로운 기술과 기존 기술 간의 공유된 지식을 활용하는 Manipulation Skills Adaptation 방법을 제안합니다. 또한, 다양한 조작 명령어에 대해 특이값 분해(singular value decomposition)를 수행하여, 각 기술의 핵심 의미 공간을 나타내는 투영 행렬을 얻어 기술의 필수적인 의미 공간을 기록합니다. 잊힘 없는 조작 및 일반화 성능을 달성하기 위해, Skills Specialization Aggregation 방법을 제안하여, 기술 의미 공간 내에서 기술 간의 유사성을 계산하고, 이전에 학습된 기술 지식을 활용하여 새로운 또는 알려지지 않은 기술에 대한 지식을 통합합니다. 광범위한 실험을 통해, 제안하는 SkillsCrafter의 효과성과 우수성이 입증되었습니다.

Traditional language-conditioned manipulation agent sequential adaptation to new manipulation skills leads to catastrophic forgetting of old skills, limiting dynamic scene practical deployment. In this paper, we propose SkillsCrafter, a novel robotic manipulation framework designed to continually learn multiple skills while reducing catastrophic forgetting of old skills. Specifically, we propose a Manipulation Skills Adaptation to retain the old skills knowledge while inheriting the shared knowledge between new and old skills to facilitate learning of new skills. Meanwhile, we perform the singular value decomposition on the diverse skill instructions to obtain common skill semantic subspace projection matrices, thereby recording the essential semantic space of skills. To achieve forget-less and generalization manipulation, we propose a Skills Specialization Aggregation to compute inter-skills similarity in skill semantic subspaces, achieving aggregation of the previously learned skill knowledge for any new or unknown skill. Extensive experiments demonstrate the effectiveness and superiority of our proposed SkillsCrafter.