행동 및 인식을 연계하여 부분 자동화된 자율 주행에서 의미 있는 인간 통제를 평가하는 연구

Linking Behaviour and Perception to Evaluate Meaningful Human Control over Partially Automated Driving

부분 자동화된 자율 주행 시스템은 다음과 같은 모순을 야기합니다. 운전자는 여전히 차량의 행동에 대해 법적 책임을 지지만, 적극적인 제어 능력은 크게 감소합니다. 이러한 제어 능력 감소는 안전하게 개입하는 데 필요한 참여 및 주체성의식을 저해합니다. 의미 있는 인간 통제(MHC)는 이러한 모순을 해결하기 위한 규범적 프레임워크로 제안되었습니다. 그러나 기존 시스템이 실제로 MHC를 제공하는지 평가하기 위한 경험적 방법은 아직 개발되지 않았습니다. 본 연구에서는 운전자들이 부분 자동화된 자율 주행 시스템과 상호 작용할 때 MHC를 얼마나 경험하는지 조사했습니다. 24명의 운전자가 촉각 공유 제어(HSC) 및 제어 교환(TC) 두 가지 모드에서 시스템 오류가 발생하는 시뮬레이터 실험에 참여했습니다. 텔레메트리 데이터를 통해 행동 지표를 추출하고, 실험 후 설문 조사를 통해 주관적인 인지 점수를 얻었으며, 이를 사용하여 MHC의 특성에 기반한 가설적 관계를 검증했습니다. 확인적 분석 결과, 자동화 차량(AV)이 운전자의 의도를 이해한다는 인지와 조향 토크 충돌 간에 유의미한 부정적 상관관계가 있는 것으로 나타났습니다. 탐색적 분석에서도 반응 시간과 충분한 제어 능력을 느낀다는 인지 사이에는 놀랍게도 긍정적인 상관관계가 있는 것으로 나타났습니다. 실험 후 개방형 설문 조사에서 얻은 질적 피드백에 따르면, 운전자와 자동화 시스템 간의 의도 불일치, 안전 부족, 운전자 입력에 대한 저항은 인지되는 MHC를 감소시키는 요인으로 작용하는 반면, 운전자 의도와 일치하는 미묘한 촉각 안내는 긍정적인 영향을 미치는 것으로 나타났습니다. 이러한 결과는 향후 설계에서 운전자의 쉬운 개입, 자동화 의도의 투명한 전달, 상황에 맞는 권한 할당을 우선시하여 부분 자동화된 자율 주행에서 의미 있는 인간 통제를 강화해야 함을 시사합니다.

Partial driving automation creates a tension: drivers remain legally responsible for vehicle behaviour, yet their active control is significantly reduced. This reduction undermines the engagement and sense of agency needed to intervene safely. Meaningful human control (MHC) has been proposed as a normative framework to address this tension. However, empirical methods for evaluating whether existing systems actually provide MHC remain underdeveloped. In this study, we investigated the extent to which drivers experience MHC when interacting with partially automated driving systems. Twenty-four drivers completed a simulator study involving silent automation failures under two modes - haptic shared control (HSC) and traded control (TC). We derived behavioural metrics from telemetry data, subjective perception scores from post-trial surveys and used them to test hypothesised relations between them derived from the properties of systems under MHC. The confirmatory analysis showed a significant negative correlation between the perception of the automated vehicle (AV) understanding the driver and conflict in steering torques. An exploratory analysis also revealed a surprising positive correlation between reaction times and the perception of sufficient control. Qualitative feedback from open-ended post-experiment questionnaires revealed that mismatches in intentions between the driver and automation, lack of safety, and resistance to driver inputs contribute to the reduction of perceived MHC, while subtle haptic guidance aligned with driver intent had a positive effect. These findings suggest that future designs should prioritise effortless driver interventions, transparent communication of automation intent, and context-sensitive authority allocation to strengthen meaningful human control in partially automated driving.