관찰 건강 데이터에서 경로 특이적 인과적 공정성을 가능하게 하는 파이프라인

A pipeline for enabling path-specific causal fairness in observational health data

머신러닝(ML) 모델을 의료 환경에 적용할 때, 기존의 의료적 불평등을 재현하거나 악화시키지 않도록 하는 것이 필수적입니다. 공정성에 대한 다양한 정의가 존재하지만, 우리는 경로 특이적 인과적 공정성에 초점을 맞춥니다. 이를 통해 의사나 모델에 의한 직접적인 차별, 또는 의료 시스템 접근성의 차이와 같은 사회적, 의학적 맥락에서 발생하는 불평등을 보다 자세히 고려하고, 이러한 불평등이 학습된 모델에 어떻게 나타날 수 있는지 파악할 수 있습니다. 본 연구에서는 구조적 공정성 모델을 관찰 의료 환경에 적용하고, 인과적 공정성을 갖는 모델을 훈련하기 위한 일반화 가능한 파이프라인을 구축했습니다. 이 파이프라인은 특정 의료 환경과 불평등을 명시적으로 고려하여, 목표로 하는 '공정한' 모델을 정의합니다. 본 연구는 두 가지 주요한 부분을 보완합니다. 첫째, 직접적인 불평등과 간접적인 불평등의 원인을 구분하여 '공정성-정확성' 간의 균형을 더욱 상세하게 분석하고, 널리 알려진 불평등의 맥락에서 공정성 고려 사항과 정확성 고려 사항을 함께 제시합니다. 둘째, 인과적 공정성 제약 조건 없이 관찰 건강 데이터로 훈련된 기반 모델을 활용하여, 사회적, 의학적 불평등이 존재하는 작업에서 인과적 공정성을 갖는 예측을 생성하는 방법을 보여줍니다. 본 연구는 직접적인 불평등과 간접적인 불평등 모두를 해결하는 모델에 독립적인 파이프라인을 제시하여, 인과적 공정성을 갖는 머신러닝 모델을 훈련합니다.

When training machine learning (ML) models for potential deployment in a healthcare setting, it is essential to ensure that they do not replicate or exacerbate existing healthcare biases. Although many definitions of fairness exist, we focus on path-specific causal fairness, which allows us to better consider the social and medical contexts in which biases occur (e.g., direct discrimination by a clinician or model versus bias due to differential access to the healthcare system) and to characterize how these biases may appear in learned models. In this work, we map the structural fairness model to the observational healthcare setting and create a generalizable pipeline for training causally fair models. The pipeline explicitly considers specific healthcare context and disparities to define a target "fair" model. Our work fills two major gaps: first, we expand on characterizations of the "fairness-accuracy" tradeoff by detangling direct and indirect sources of bias and jointly presenting these fairness considerations alongside considerations of accuracy in the context of broadly known biases. Second, we demonstrate how a foundation model trained without fairness constraints on observational health data can be leveraged to generate causally fair downstream predictions in tasks with known social and medical disparities. This work presents a model-agnostic pipeline for training causally fair machine learning models that address both direct and indirect forms of healthcare bias.