에이전트 시대의 인과 관계 발견

Causal Discovery in the Era of Agents

최근 대규모 언어 모델(LLM)을 인과 관계 발견에 활용하려는 시도들은 모델에게 쌍방향 관계를 추론하게 하거나, 그래프 구조를 제안하게 하거나, 언어 모델의 출력을 사전 지식 및 제약 조건으로 주입하는 방식으로 이루어진다. 이러한 접근 방식은 분석 속도를 향상시킬 수 있지만, 인과적 증거가 데이터와 가정에 의해 뒷받침되는 것인지, 아니면 텍스트 연관성, 프롬프트 아티팩트 또는 환각된 메커니즘에 의해 발생하는 것인지 불분명하게 만든다. 우리는 인과 관계 발견에서 에이전트의 역할을 재정의해야 한다고 주장한다. 에이전트는 데이터를 검사하고, 관련 정보를 검색하며, 방법론적 가정을 설명하고, 그래프 출력을 명확히 해야 하지만, 변수 간 연결(edge), 방향성, 사전 지식, 제약 조건 또는 인과 관계 결론을 제공해서는 안 된다. 우리는 에이전트가 워크플로우를 지원하는 반면, 인과적 주장은 데이터, 명시적인 가정, 형식 알고리즘, 진단 및 사용자 또는 도메인 전문가의 결정에 근거해야 한다는 원칙을 제안한다. 이러한 원칙을 causal-learn+라는 온라인 플랫폼에 구현하였다. 이 플랫폼은 데이터 분석, 전처리, 방법 추천, 전문 지식 통합, 형식적 발견 및 해석 기능을 제공하며, causal-learn의 알고리즘 생태계를 기반으로 한다. 빅 파이브 성격 데이터에 대한 사례 연구는 언어 모델의 신뢰성 문제를 인과적 증거로 변환시키지 않고 에이전트 지원 방식으로 인과 관계를 발견하는 방법을 보여준다. 이 플랫폼은 causallearn.com에서 사용할 수 있다.

Recent attempts to combine large language models (LLMs) with causal discovery ask models to infer pairwise directions, propose graph structures, or inject language-model outputs as priors and constraints. These approaches promise faster analysis, but they also obscure whether a causal evidence is supported by data and assumptions or by textual associations, prompt artifacts and hallucinated mechanisms. We argue for a different role for agents in causal discovery. Agents should inspect data, retrieve context, explain method assumptions and clarify graph outputs, but they should not supply edges, orientations, priors, constraints or causal conclusions. We propose the principle that agents assist the workflow, while causal claims remain grounded in data, explicit assumptions, formal algorithms, diagnostics and user or domain-expert decisions. We instantiate this principle in causal-learn+, an online platform that coordinates data analysis, preprocessing, method recommendation, expert-knowledge incorporation, formal discovery and interpretation around the algorithmic ecosystem of causal-learn. A case study on Big Five personality data illustrates agent-assisted pipeline of causal discovery without turning language-model unreliability into causal evidence. The platform is available at causallearn.com.