발현되는 것, 내재하는 것이 아니다: 설명 가능한 인공지능에 대한 바라드 철학적 해석

Emergent, not Immanent: A Baradian Reading of Explainable AI

설명 가능한 인공지능(XAI)은 종종 인공지능 모델의 내부 작동 방식을 밝히는 기술적 문제로 간주됩니다. 이러한 관점은 면밀히 검토되지 않은 존재론적-인식론적 전제에 영향을 받습니다. 즉, 의미는 모델 자체에 내재하는 것으로 간주되며, 설명자는 시스템 외부에서 위치하며, 계산 기술을 통해 원인-결과 구조를 회복할 수 있다고 가정합니다. 본 논문에서는 바라드의 행위자 현실주의를 바탕으로 XAI의 대안적인 존재론적-인식론적 관점을 제시합니다. 우리는 해석이 AI 모델, 인간, 맥락, 그리고 해석 체계의 상호 연결된 상황 속에서 발생하는 물질-담론적 수행 행위라고 주장합니다. 이러한 주장을 발전시키기 위해, 우리는 행위자 현실주의 관점에서 다양한 XAI 방법들을 분석하고, 이러한 방법들의 기반이 되는 가정과 한계점을 드러냅니다. 또한, 우리는 본 프레임워크의 윤리적 측면을 논하고, AI 모델과 인간의 상호작용을 촉진하는 설명 가능한 인터페이스 설계 방향을 제시하며, 이를 위해 텍스트-음악 변환 인터페이스를 사례 연구로 활용합니다.

Explainable AI (XAI) is frequently positioned as a technical problem of revealing the inner workings of an AI model. This position is affected by unexamined onto-epistemological assumptions: meaning is treated as immanent to the model, the explainer is positioned outside the system, and a causal structure is presumed recoverable through computational techniques. In this paper, we draw on Barad's agential realism to develop an alternative onto-epistemology of XAI. We propose that interpretations are material-discursive performances that emerge from situated entanglements of the AI model with humans, context, and the interpretative apparatus. To develop this position, we read a comprehensive set of XAI methods through agential realism and reveal the assumptions and limitations that underpin several of these methods. We then articulate the framework's ethical dimension and propose design directions for XAI interfaces that support emergent interpretation, using a speculative text-to-music interface as a case study.