위치: 구체화된 인공지능은 프라이버시와 유용성 간의 균형을 요구한다

Position: Embodied AI Requires a Privacy-Utility Trade-off

구체화된 인공지능(EAI) 시스템은 시뮬레이션 환경에서 벗어나 빠르게 실제 환경, 특히 가정 및 기타 민감한 환경으로 확장되고 있습니다. 그러나 최근 EAI 솔루션은 지시, 인식, 계획, 상호 작용과 같은 개별 단계에서의 발전은 이루었지만, 고빈도로 사용되는 환경에서 발생할 수 있는 되돌릴 수 없는 프라이버시 침해 문제를 고려하지 않았습니다. 본 논문은 이러한 구성 요소들을 독립적으로 최적화하는 것이 민감한 환경에 적용될 경우 시스템적인 프라이버시 위기를 초래한다는 점을 주장하며, EAI에서 프라이버시는 개별 단계의 특징이 아닌 전체 생명 주기 수준의 아키텍처 제약 조건이라는 입장을 강조합니다. 이러한 문제점을 해결하기 위해, 우리는 차세대 구체화된 인공지능에 대한 통합적인 프라이버시 기반 프레임워크인 Secure Privacy Integration in Next-generation Embodied AI (SPINE)을 제안합니다. SPINE은 프라이버시를 EAI 전체 생명 주기 동안 여러 단계를 연결하는 동적인 제어 신호로 간주합니다. SPINE은 EAI 파이프라인을 다양한 단계로 분해하고, 단계 간의 문맥적 민감성을 조율하기 위한 다중 기준 프라이버시 분류 행렬을 구축합니다. 우리는 시뮬레이션 및 실제 사례 연구를 통해 프라이버시 제약 조건이 시스템 동작에 미치는 영향을 검증하고, 파편화된 프라이버시 방어 기술의 한계를 보여주며, 안전하면서도 기능적인 EAI 시스템에 대한 향후 연구 방향을 제시합니다. SPINE 프레임워크와 사례 연구에 대한 자세한 내용은 https://github.com/rminshen03/EAI_Privacy_Position 에서 확인할 수 있습니다.

Embodied AI (EAI) systems are rapidly transitioning from simulations into real-world domestic and other sensitive environments. However, recent EAI solutions have largely demonstrated advancements within isolated stages such as instruction, perception, planning and interaction, without considering their coupled privacy implications in high-frequency deployments where privacy leakage is often irreversible. This position paper argues that optimizing these components independently creates a systemic privacy crisis when deployed in sensitive settings, thereby advancing the position that privacy in EAI is a life cycle-level architectural constraint rather than a stage-local feature. To address these challenges, we propose Secure Privacy Integration in Next-generation Embodied AI (SPINE), a unified privacy-aware framework that treats privacy as a dynamic control signal governing cross-stage coupling throughout the entire EAI life cycle. SPINE decomposes the EAI pipeline into various stages and establishes a multi-criterion privacy classification matrix to orchestrate contextual sensitivity across stage boundaries. We conduct preliminary simulation and real-world case studies to conceptually validate how privacy constraints propagate downstream to reshape system behavior, illustrating the insufficiency of fragmented privacy patches and motivating future research directions into secure yet functional embodied AI systems. We detail the SPINE framework and case studies at https://github.com/rminshen03/EAI_Privacy_Position.