감정의 의미를 누가 결정하는가? 측정 한계의 결과로 나타나는 감정 주권

Who Determines the Meaning of an Emotion? Affective Sovereignty as an Epistemic Consequence of Measurement Limits

감정 인식 인공지능(AI)은 차량, 가전제품, 대화형 에이전트 및 사회 기반 시설에 빠르게 통합되면서, 개별적 경험을 넘어 사회 전체 규모에서 감정이 관찰되고 계산되는 영역인 '감정구(Affectosphere)'를 형성하고 있습니다. 그러나 이 영역에서 중요한 규범적 질문 중 하나는 충분히 탐구되지 않았습니다: 자신의 감정에 대한 의미를 최종적으로 결정할 권한은 누구에게 있는가? 본 연구에서는 측정을 통해 발생하는 구조적인 한계의 관점에서 이 질문을 다룹니다. 우리는 특정 주석 프로토콜에 따라 모집된 인원 그룹에서 부여된 레이블 분포를 '의미 분포'로 정의하고, 이러한 불확실성을 감소시킬 수 있는 부분과 감소시킬 수 없는 부분으로 분해합니다. 그런 다음 감정 AI가 높은 신뢰도의 개별 레이블을 할당하고 집계 수준에서 실제 차이를 구별할 수 있지만, 현실적인 주석자 수를 기준으로 개별 사례에 대한 의미 분포의 감소 불가능한 구성 요소는 충분한 정확도로 추정될 수 없으며, 이러한 체계적인 차이를 '인지적 격차(epistemic gap)'라고 명명합니다. 핵심적인 발견은 높은 장치 신뢰도가 회복 불가능한 의미가 완전히 파악되었음을 증명하는 근거가 될 수 없다는 것입니다. 이 인지적 격차와 더불어, 원칙적으로 특정 양을 회복할 수 없는 시스템의 결과는 그 권위 있는 결정으로 간주되어서는 안 된다는 명시적인 규범적 전제를 바탕으로, 개인의 감정에 대한 의미 해석의 최종 권한은 절차적으로 경험 주체에게 부여되어야 한다는 '감정 주권'이라는 규범을 도출합니다. 이러한 결과는 감정 AI의 설계, 평가 및 규제에서 정확도 극대화보다는 해석 권한의 명확한 배분에 우선순위를 두어야 함을 시사합니다.

Emotion-sensing AI is rapidly becoming embedded in vehicles, home appliances, dialogue agents, and social infrastructure, giving rise to a sphere in which emotion is no longer confined to individual experience but is instead observed and computed at a societal scale, a domain we term the Affectosphere. Yet a central normative question in this domain has remained underexplored: who has the final authority to determine the meaning of one's own emotion? This study addresses the question from the epistemological side of measurement's structural limits. We define a meaning distribution as the distribution of labels assigned by annotators drawn from a population under a fixed annotation protocol, and decompose its uncertainty into reducible and irreducible components. We then demonstrate that, while emotion AI can assign high-confidence point labels and discriminate real differences at an aggregate level, the irreducible component of the meaning distribution for individual instances cannot be estimated with adequate coverage under realistic annotator counts, a systematic divergence we term the epistemic gap. The key finding is that high device confidence does not constitute evidence that irrecoverable meaning has been recovered. From this epistemic gap, together with an explicitly stated normative premise, namely that the output of a system which cannot recover a quantity in principle must not be treated as its authoritative determination, we derive the norm that the final interpretive authority over the meaning of one's emotion is procedurally reserved for the experiencing subject, the norm of affective sovereignty. These results suggest that the design, evaluation, and regulation of emotion AI should place explicit allocation of interpretive authority, rather than accuracy maximisation, at their core.