판단-결과 간 괴리: 의료 의사 결정에서의 거대 언어 모델의 도덕적 추론

The Judgment-Consequence Gap: LLM Moral Reasoning in Healthcare Decisions

거대 언어 모델(LLM)이 의료와 같이 중요한 영역에 도입됨에 따라, 그들의 도덕적 추론을 이해하는 것이 필수적입니다. 제한된 의료 자원에 대한 결정은 종종 책임 판단에 의존하며, 특히 환자의 행동이 질병에 기여할 때 더욱 그렇습니다. 본 연구는 LLM이 책임과 그 결과에 대해 어떻게 추론하는지 조사하고, 행동, 질병 발생, 그리고 의료 서비스 제공 거부에 이르기까지 다양한 수준에서 그들의 판단을 분석합니다. 우리는 이전 연구에서 채택된 다양한 임상 사례를 활용하여 다양한 모델 아키텍처와 성능 수준을 가진 LLM들을 평가했습니다. 연구 결과는 '판단-결과 간 괴리' 현상을 보여줍니다. LLM은 인간과 마찬가지로 환자가 건강에 해로운 행동에 대한 책임을 져야 한다고 판단하는 경향이 있지만, 이러한 판단이 제한된 자원 배분에 영향을 미치지 않도록 하는 경우가 많습니다. 구체적으로, LLM은 무작위 할당을 기본으로 사용하는 반면, 인간은 지속적으로 책임이 적은 환자를 우선시합니다. 또한, 인간과 비교하여 LLM은 정보 접근성에 더 큰 가중치를 두며, 건강 위험에 대한 지식이 없을 경우 책임 판단을 약화시키는 경향이 있습니다. 이러한 결과는 LLM이 책임과 자원 부족이 결합될 때 인간과는 다른 도덕적 틀을 적용하며, 놀랍게도 추론 능력이 향상됨에 따라 인간과의 규범적 의견 불일치가 더욱 심화되는 것을 보여줍니다.

As large language models (LLMs) enter high-stakes domains such as healthcare, understanding their moral reasoning becomes essential. Decisions about scarce medical resources often hinge on judgments of responsibility, particularly when patients' own actions contribute to illness. We investigate how LLMs reason about responsibility and its consequences, tracing their judgments across successive levels, from the behavior, to the resulting illness, to the denial of care. We evaluate a wide range of LLMs, spanning different model families and capability levels, on various clinical vignettes adapted from prior studies. Our results identify a judgment-consequence gap: LLMs largely agree with humans that patients bear responsibility for health-harming behaviors, yet overwhelmingly refuse to let that judgment influence how they allocate scarce resources. Specifically, LLMs default to random allocation, whereas humans consistently favor the less-culpable patient. Compared to humans, LLMs also place greater emphasis on access to information, reducing responsibility judgments when health-risk knowledge is unavailable. These findings reveal that LLMs apply a systematically different moral framework than humans when responsibility and resource scarcity intersect, surprisingly often amplifying normative disagreement with humans as reasoning capability increases.