CB-SLICE: 개념 기반 해석 가능한 오류 슬라이스 발견

CB-SLICE: Concept-Based Interpretable Error Slice Discovery

심층 학습 모델은 평균적으로 뛰어난 성능을 보이지만, 특정 그룹의 데이터에 대해 체계적인 오류를 보이는 경우가 많으며, 이를 '오류 슬라이스'라고 합니다. 이러한 오류 슬라이스를 식별하고, 그 원인을 파악하는 것은 모델 디버깅 및 편향 완화에 매우 중요합니다. 그러나 기존의 오류 슬라이스 발견 방법(SDM)은 일반적으로 모델의 추론 과정과 연결되지 않은 설명을 생성하므로, 실제 오류 원인을 정확하게 반영하지 못하고 근사적인 결과만을 제공할 수 있습니다. 본 연구에서는 개념 병목 모델(CBM)을 활용하여 이러한 한계를 극복하고자 합니다. CBM은 인간이 이해하기 쉬운 의미론적 개념에 직접적으로 의존하는 예측 방식을 사용합니다. CBM에서 발생하는 하위 작업 실패는 종종 개념 예측 오류에서 비롯되므로, 개념 표현은 오류 슬라이스 식별을 위한 강력한 후보가 될 수 있으며, 이는 오류 원인과 직접적으로 연결된 상세한 설명을 제공할 수 있습니다. 이러한 점에 착안하여, 본 연구에서는 CB-SLICE라는 개념 기반 SDM을 제안합니다. CB-SLICE는 공유하는 개념 예측 실패를 가진 샘플들을 그룹화하고, 각 슬라이스의 실패 모드에 가장 큰 영향을 미치는 핵심 개념을 식별합니다. 여러 벤치마크 실험 결과, CB-SLICE는 기존 최고 성능 모델보다 더 나은 결과를 보여주며, 잘 알려진 편향을 효과적으로 파악하는 동시에 모델 오류에 대한 더욱 풍부하고 신뢰성 있는 설명을 제공한다는 것을 확인했습니다.

Despite strong average-case performance, deep learning models often exhibit systematic errors on specific population groups, known as error slices. Identifying these groups and the root causes of their failures is critical for model debugging and bias mitigation. However, existing error Slice Discovery Methods (SDMs) typically generate explanations disconnected from the model's inference process, thus only approximating the underlying error source and may be inaccurate. We address this limitation by leveraging Concept Bottleneck Models (CBMs), whose predictions are directly dependent on human-understandable semantic concepts. Since downstream task failures in CBMs commonly arise from concept mispredictions, concept representations provide a strong candidate for error slice identification, offering fine-grained explanations directly linked to the error source. Building on this insight, we introduce CB-SLICE, a concept-based SDM that groups samples with shared concept prediction failures and identifies the keyword concepts most responsible for each slice's failure mode. Across multiple benchmarks, we show that CB-SLICE outperforms state-of-the-art methods in uncovering well-known biases while providing richer and more faithful explanations of model errors.