신뢰할 수 있는 인공지능은 불변성 충돌 문제에 직면하며, 인과관계가 그 해결책이다

Trustworthy AI Suffers from Invariance Conflicts and Causality is The Solution

머신러닝(ML) 모델 및 기반 모델(FM)을 포함한 인공지능(AI)이 점점 더 중요한 분야에서 활용됨에 따라, 그 신뢰성을 확보하는 것이 핵심 과제로 부상했습니다. 그러나 공정성, 강건성, 개인 정보 보호, 설명 가능성과 같은 신뢰할 수 있는 AI의 핵심 목표는 특히 유용성을 유지하면서 동시에 달성하기 어렵습니다. 본 논문은 인과관계가 신뢰할 수 있는 AI의 성능 및 다양한 목표 간의 균형을 이해하고 조절하는 데 필수적이라고 주장합니다. 우리는 신뢰할 수 있는 AI의 딜레마를 데이터 생성 프로세스의 다양한 변화에 따른 호환되지 않는 불변성 요구 사항으로 재해석하여 논거를 제시합니다. 또한, 인과관계가 신뢰할 수 있는 AI의 딜레마가 발생하는 방식과 선택적 불변성을 통해 이러한 딜레마를 완화하거나 해결할 수 있는 방법에 대한 통합적인 프레임워크를 제공함을 보여줍니다. 이러한 관점은 기존 ML 모델과 대규모 FM 모두에 적용됩니다. 본 논문에서는 현대의 대규모 시스템에서 인과적 가정이 명시적 또는 암시적으로 어떻게 적용될 수 있는지 논의합니다. 마지막으로, 인과관계를 활용하여 더욱 신뢰할 수 있는 AI를 구축하기 위한 과제와 기회를 제시합니다.

As artificial intelligence (AI), including machine learning (ML) models and foundation models (FMs), is increasingly deployed in high-stakes domains, ensuring their trustworthiness has become a central challenge. However, the core trustworthy AI objectives, such as fairness, robustness, privacy, and explainability, are hard to achieve simultaneously, especially while preserving utility. This position paper argues that causality is necessary to understand and balance trade-offs in performance and multiple objectives of trustworthy AI. We ground our arguments in re-interpreting trustworthy AI trade-offs as incompatible invariance requirements under different changes to the data-generating process. We then illustrate that causality provides a unifying framework for understanding how trade-offs in trustworthy AI arise, and how they can be softened or resolved through selective invariance. This perspective applies to both classical ML models and large-scale FMs. Our paper discusses how causal assumptions may be applied explicitly or implicitly in modern large-scale systems. Finally, we outline open challenges and opportunities for using causality to build more trustworthy AI.