LLM은 이분법적 딜레마를 넘어선 도덕적 대안을 상상할 수 있는가?

Can LLMs Imagine Moral Alternatives Beyond Binary Dilemmas?

대규모 언어 모델(LLM)이 도덕적인 조언자 및 에이전트로 점점 더 많이 활용됨에 따라, 두 가지 상반된 가치 사이의 딜레마를 해결해야 합니다. 그러나 LLM과 관련된 도덕적 딜레마 연구는 인간의 도덕적 인지 능력에서 중요한 측면인 주어진 선택지를 넘어선 대안을 상상하는 능력을 간과합니다. 본 연구에서는 'MoralAltDataset'이라는 데이터셋을 소개합니다. 이 데이터셋은 서술형 조언 딜레마와 AI 에이전트 딜레마를 포함한 307개의 도덕적 딜레마로 구성되어 있으며, 각 딜레마는 타협 및 재구성된 대안으로 보완되었습니다. 먼저 인간과 LLM이 이러한 대안이 제시될 때 판단을 어떻게 바꾸는지 조사했습니다. 15개의 LLM을 대상으로 분석한 결과, 타협 대안은 종종 원래 옵션보다 선호되었으며, 이는 도덕적 선택에 상당한 영향을 미칩니다. 또한 LLM이 생성한 대안의 품질을 인간이 작성한 대안과 비교하여 쌍대 비교 선호도 및 전문가 기반 기준을 사용하여 평가했습니다. 결과적으로 LLM이 생성한 대안은 종종 더 선호되었으며, 세부적인 구조적 및 윤리적 기준을 더 잘 충족하는 것으로 나타났습니다. 동시에 구조적 품질과 실용적인 타당성 간의 상충 관계가 밝혀졌습니다.

As large language models (LLMs) are increasingly deployed as moral advisors and agents, they need to address dilemmas between two competing values. However, existing research on LLMs with moral dilemmas overlooks a central aspect of human moral cognition: the ability to imagine alternatives that move beyond the given options. We introduce MoralAltDataset, a dataset of 307 moral dilemmas spanning narrative Advisor dilemmas and AI-facing Agent dilemmas, each augmented with compromise and reframed alternatives. We first examine whether humans and LLMs shift their judgments when such alternatives are introduced. Across 15 LLMs, we find that compromise alternatives are often preferred over either original option, substantially reshaping moral choice. We then evaluate the quality of LLM-generated alternatives against human-authored ones using pairwise preference and expert-based criteria. Results show that LLM-generated alternatives are often preferred and better satisfy fine-grained structural and ethical criteria, while revealing trade-offs between structural quality and practical feasibility.