xai-cola: 희소성을 갖는 반사실적 설명 생성을 위한 파이썬 라이브러리

xai-cola: A Python library for sparsifying counterfactual explanations

반사실적 설명(Counterfactual Explanation, CE)은 사후 설명 가능성(post-hoc explainability) 분야에서 중요한 역할을 합니다. 그러나 대부분의 CE 생성기가 생성하는 설명은 종종 매우 중복되는 경향이 있습니다. 본 연구에서는 오픈 소스 파이썬 라이브러리 xai-cola를 소개합니다. 이 라이브러리는 임의의 생성기가 생성한 CE의 희소성을 높이는 데 사용될 수 있는 엔드-투-엔드 파이프라인을 제공하며, 불필요한 특징 변화를 줄이면서도 그 유효성을 유지합니다. xai-cola는 pandas DataFrame 형식의 원시 표 형식 데이터, 전처리 객체(표준화 및 인코딩용), 그리고 학습된 scikit-learn 또는 PyTorch 모델을 입력으로 받아 API를 제공합니다. 사용자는 내장된 CE 생성기를 사용하거나 외부에서 가져온 CE 생성기를 사용할 수 있습니다. 또한, 이 라이브러리는 다양한 희소화 정책을 구현하고 있으며, 희소화된 반사실적 설명을 분석하고 비교하기 위한 시각화 기능을 포함하고 있습니다. xai-cola는 MIT 라이선스 하에 배포되며, PyPI에서 설치할 수 있습니다. 실험 결과, xai-cola는 여러 CE 생성기를 통해 더 희소한 반사실적 설명을 생성하며, 특정 설정에서 수정된 특징의 수를 최대 50%까지 줄일 수 있었습니다. 소스 코드는 https://github.com/understanding-ml/COLA 에서 확인할 수 있습니다.

Counterfactual explanation (CE) is an important domain within post-hoc explainability. However, the explanations generated by most CE generators are often highly redundant. This work introduces an open-source Python library xai-cola, which provides an end-to-end pipeline for sparsifying CEs produced by arbitrary generators, reducing superfluous feature changes while preserving their validity. It offers a documented API that takes as input raw tabular data in pandas DataFrame form, a preprocessing object (for standardization and encoding), and a trained scikit-learn or PyTorch model. On this basis, users can either employ the built-in or externally imported CE generators. The library also implements several sparsification policies and includes visualization routines for analysing and comparing sparsified counterfactuals. xai-cola is released under the MIT license and can be installed from PyPI. Empirical experiments indicate that xai-cola produces sparser counterfactuals across several CE generators, reducing the number of modified features by up to 50% in our setting. The source code is available at https://github.com/understanding-ml/COLA.