인과적 언어 장벽: 대규모 언어 모델은 인과 관계의 방향을 표현할 수 있지만, 예/아니오 답변으로는 이를 제대로 나타내지 못한다.

Causal Tongue-Tie: LLMs Can Encode Causal Direction, But Their Yes/No Outputs Fail to Express

본 연구에서는 대규모 언어 모델이 인과 질문에 대해 실제로 내재하고 있는 정보와 모델이 제공하는 답변 사이에 불일치가 있음을 발견했습니다. 상식에 어긋나는 CLadder 항목의 경우, 고정된 선형 탐침(linear probe)을 사용하면 모델의 숨겨진 상태에서 증거에 기반한 정답을 추출할 수 있습니다(정확도 약 0.97). 반면, 모델이 제공하는 '예/아니오' 답변은 상식적인 답변으로 회귀하는 경향이 있으며, 정확도는 약 0.5입니다. 이러한 약 +0.5의 차이를 우리는 '인과적 언어 장벽(Causal Tongue-Tie)'이라고 부릅니다. 이는 잘못된 '예/아니오' 답변이 두 가지 유형의 오류로 분해될 수 있음을 의미합니다: 첫째, 모델 내부에 인과 관계에 대한 정보가 존재하지 않는 경우이고, 둘째는 모델 내부에는 인과 관계에 대한 정보가 있지만, 언어 인터페이스가 이를 제대로 표현하지 못하는 경우입니다. 이러한 결과는 출력 결과만을 기반으로 한 인과 추론 벤치마크의 해석에 중요한 시사점을 제공합니다. 벤치마크에서 '정답'이라고 표시되는 것이 반드시 모델이 해당 내용을 이해했다는 것을 의미하는 것은 아니며, 반대로 '오답'이라고 표시되는 것이 반드시 모델이 해당 내용을 이해할 수 없다는 것을 의미하는 것도 아닙니다. 단일 정확도 지표만을 사용하여 대규모 언어 모델의 인과 추론 능력을 평가하는 것은 신중하게 고려되어야 합니다.

We find a mismatch between what large language models encode about a causal question and what they answer. On anti-commonsense CLadder items, a fixed linear probe recovers the evidence-supported answer from the model's hidden state (accuracy approximately 0.97), while the spoken Yes/No reverts to the commonsense one (accuracy approximately 0.5). We call this approximately +0.5 gap Causal Tongue-Tie: a wrong Yes/No decomposes into two separable failure modes: no internal signal versus a signal the verbal interface cannot say. The implication cuts both ways for output-only causal benchmarks: a benchmark "correct" need not mean the model has understood, and a benchmark "wrong" need not mean it cannot. Sweeping claims about whether LLMs can do causal reasoning, drawn from a single accuracy number, deserve a second look.