GoT-CD: 그래프 기반 사고를 활용한 인과 관계 추론 및 사후 경로별 공정성 감사 검증의 취약성에 대한 연구

GoT-CD: Graph-of-Thoughts Causal Discovery and the Fragility of Post-hoc Path-Specific Fairness Audits

인과 관계 추론은 관찰 데이터로부터 방향성을 가진 구조를 파악하는 기술로, 임상 환경에서 예측 모델의 작동 원리 이해와 공정성 감사에 점점 더 많이 활용되고 있습니다. 경로별 반사실적 공정성은 보호 속성이 부정한 경로를 통해 결과 변수에 영향을 미치는지 여부를 묻지만, 이러한 측정 지표는 제공된 인과 그래프에 상대적으로 정의되므로 추론 단계에서 발생하는 오류를 그대로 반영합니다. 기존의 인과 관계 추론 방법은 모든 간선에 동일한 가중치를 부여하는 전체 구조적 메트릭을 기준으로 평가되며, 특정 감사 결과가 의존하는 경로가 추론 과정을 통해 제대로 발견되는지 여부 또는 해당 경로가 없을 때 감사가 어떤 결과를 보고하는지에 대한 평가는 아직 확립되지 않았습니다. 본 연구에서는 전체 그래프를 기반으로 하는 그래프 사고(Graph-of-Thoughts) 추론이 순환 구조가 없는 경쟁력 있는 인과 그래프를 생성하며, 이는 대규모 언어 모델(LLM)의 기준과 유사한 성능을 보이지만, 이러한 구조적 정확성이 공정성을 제대로 반영하는 감사를 보장하지는 않는다는 것을 보여줍니다. 우리는 GoT-CD라는 새로운 방법을 제안합니다. 이 방법에서는 추론 단위가 완전한 후보 간선 집합으로 구성됩니다. 여러 그래프를 병렬로 생성하고, 결정적인 유효성 함수에 의해 점수를 매긴 후, 가짜 간선을 금지하는 엄격한 합집합 제약 조건 하에서 그래프들을 결합하며, 탐욕적 투영을 통해 DAG(Directed Acyclic Graph) 구조를 유지합니다. GoT-CD는 보고된 모든 벤치마크에서 유효한 DAG를 생성했으며, Asia, Alzheimer's, COVID-Respiratory 데이터셋에서 LLM 방법 중 가장 높은 DAG 유효성 F1 점수를 달성했습니다. 알려진 불공정한 경로가 존재하는 Alzheimer's 벤치마크에서 사후 경로별 감사를 수행한 결과, 발견된 그래프 중 8개 중 5개가 민감 속성과 결과 변수 간의 연결 경로를 전혀 포함하지 않아 전체적으로는 효과가 없다고 보고하는 반면, 여전히 매개 효과는 존재합니다. 따라서 인과 관계 추론과 함께 세부적인 경로별 공정성 분석이 필요함을 보여줍니다.

Causal discovery recovers directed structure from observational data and is increasingly used in clinical settings to support mechanism reasoning and fairness audits of predictive models. Path-specific counterfactual fairness asks whether a protected attribute influences an outcome through illegitimate pathways, but these estimands are defined relative to a supplied causal graph and therefore inherit whatever errors the discovery step introduces. Discovery methods are routinely scored on aggregate structural metrics that weight all edges equally, and no established evaluation asks whether the specific pathway an audit depends on survives discovery---or what the audit reports when that pathway is missing. Here we show that full-graph Graph-of-Thoughts reasoning yields acyclic discovered graphs that are structurally competitive with large language model (LLM) baselines, yet that structural fidelity alone does not guarantee fairness-faithful audits. We introduce GoT-CD, in which the reasoning unit is a complete candidate edge set: multiple graphs are generated in parallel, scored by a deterministic validity function, and merged under a hard union constraint that forbids invented edges, with greedy projection enforcing a DAG before commitment. GoT-CD returns a valid DAG on all five reported benchmarks and achieves the best DAG-valid F1 score among LLM methods on Asia, Alzheimer's, and COVID-Respiratory datasets. On an Alzheimer's benchmark with known unfair path, a post-hoc path-specific audit shows that five of eight discovered graphs recover no path from the sensitive attribute to the outcome and therefore report a null overall effect while mediated effects persist, necessitating downstream path-specific fairness analysis along with structural discovery.