권리에서 의례로: 스마트 홈 AI에서의 기대 관리

From Rights to Rites: Expectations Management in Smart-Home AI

가정용 음성 비서 및 스마트 홈 기기가 일상생활에 점점 더 많이 통합되고 있지만, 그 윤리적 측면은 종종 사후적으로 고려되거나 규정 준수팀에 위임되는 경우가 많습니다. 본 연구는 스마트 홈 AI에 대한 기대가 어떻게 구성되고 관리되는지 탐구하기 위해, 아마존 알렉사, 마이크로소프트 애저 IoT, 구글 네스트 등 주요 스마트 홈 플랫폼의 디자이너, 개발자, 연구자 33명을 대상으로 반구조화된 인터뷰를 진행했습니다. 구성주의 기반 이론적 접근 방식을 사용하여, 조직의 권리와 문화적 맥락에 기반한 의례 사이의 균형을 통해 실무자들이 기대치를 형성, 조정 및 수정하는 방식을 설명하는 '기대 관리(Expectations Management, EM)' 모델을 개발했습니다. EM은 기대 확인 이론 및 신뢰 교정 이론과 달리, 도덕적 판단, 맥락적 행동 및 문화 간 변동성을 강조한다는 점에서 차이가 있습니다. 분석 결과, 자동화 대 자율성, 유용성 대 침입성, 개인화 대 예측 가능성, 투명성 대 불투명성이라는 네 가지 주요 설계상의 긴장이 반복적으로 나타나는 것을 확인하고, 이를 바탕으로 도덕적 신중함을 지원하는 5단계 EM 설계 지침을 제시했습니다. 본 연구는 책임감 있는 스마트 홈 설계에 대한 시사점을 논하고, 인간 중심 AI 개발을 위한 지침을 제공합니다.

Domestic voice assistants and smart-home devices are increasingly embedded in everyday routines, yet their ethics are often treated as an afterthought or delegated to compliance teams. To explore how expectations about smart-home AI are constructed and managed, we conducted 33 semi-structured interviews with designers, developers, and researchers from major smart-home platforms (Amazon Alexa, Microsoft Azure IoT, and Google Nest). Using a constructivist grounded theory approach, we develop Expectations Management (EM): a culturally embedded model describing how practitioners shape, calibrate, and repair expectations by balancing organisational rights with culturally situated rites. We show that EM differs from expectation-confirmation theory and trust-calibration by foregrounding moral judgement, situated action, and cross-cultural variation. Our analysis reveals four recurring design tensions: automation vs. autonomy, helpfulness vs. intrusiveness, personalisation vs. predictability, and transparency vs. obscurity and distils them into a five-phase EM Design Playbook that supports moral prudence. We discuss implications for responsible smart-home design and offer guidance for human-centred AI.