최적 생성 흐름을 이용한 공변면(On-Manifold) 섀플리 값 추정: 공리적 접근

Axiomatic On-Manifold Shapley via Optimal Generative Flows

섀플리 값을 기반으로 한 설명 가능 인공지능(XAI)은 사후 설명에 중요하지만, 휴리스틱 기반의 기준선으로 인해 공변면에서 벗어나는 현상이 발생합니다. 생성 모델은 이러한 문제를 해결하려는 시도를 하지만, 종종 기하학적 비효율성과 이산화 오류를 초래합니다. 본 연구에서는 최적 생성 흐름에 의해 구동되는 공변면 상의 오만-섀플리(Aumann-Shapley) 값 추정의 형식적 이론을 제안합니다. 효율성과 기하학적 공리, 특히 재파라미터화 불변성을 만족하는 고유한 함수형인 기울기 선적분을 표현하는 정리를 증명했습니다. 경로의 모호성을 해결하기 위해, 사전 분포에서 데이터 분포로 전달되는 운동 에너지 최소화 와서테인-2 기하 곡선을 선택합니다. 이를 통해 고전적인 섀플리 값을 더하는 모델에서 회복할 수 있는 표준적인 값 추정 방법군을 얻을 수 있으며, 흐름 근사 오류에 대한 증명 가능한 안정성 경계를 갖습니다. 기준선 선택을 변분 문제로 재구성함으로써, 본 연구 방법은 실험적으로 기존 방법보다 우수한 성능을 보이며, 흐름 일관성 오류(Flow Consistency Error)가 감소하여 엄격한 공변면 준수를 달성하고, 구조 인지 총 변동(Structure-Aware Total Variation)으로 특징지어지는 우수한 의미론적 정렬을 제공합니다. 코드: https://github.com/cenweizhang/OTFlowSHAP

Shapley-based attribution is critical for post-hoc XAI but suffers from off-manifold artifacts due to heuristic baselines. While generative methods attempt to address this, they often introduce geometric inefficiency and discretization drift. We propose a formal theory of on-manifold Aumann-Shapley attributions driven by optimal generative flows. We prove a representation theorem establishing the gradient line integral as the unique functional satisfying efficiency and geometric axioms, notably reparameterization invariance. To resolve path ambiguity, we select the kinetic-energy-minimizing Wasserstein-2 geodesic transporting a prior to the data distribution. This yields a canonical attribution family that recovers classical Shapley for additive models and admits provable stability bounds against flow approximation errors. By reframing baseline selection as a variational problem, our method experimentally outperforms baselines, achieving strict manifold adherence via vanishing Flow Consistency Error and superior semantic alignment characterized by Structure-Aware Total Variation. Our code is on https://github.com/cenweizhang/OTFlowSHAP.