지능형 추론 단서: 인공지능 정보가 복잡한 의사 결정에 미치는 영향에 대한 프레임워크 및 사례 연구

Intelligent Reasoning Cues: A Framework and Case Study of the Roles of AI Information in Complex Decisions

인공지능(AI) 기반 의사 결정 지원 시스템은 높은 정확도를 보일 수 있지만, 여전히 사용자에게 충분한 도움을 주지 못하거나 의사 결정을 개선하지 못하는 경우가 있습니다. 기존의 AI 지원 의사 결정 이론은 AI 조언에 대한 의존도를 조정하는 데 초점을 맞추고 있으며, 다양한 시스템 설계가 의사 결정 과정에 어떤 영향을 미치는지 명확하게 설명하지 못합니다. 본 연구에서는 AI 인터페이스를 개별적으로 의사 결정에 영향을 미치는 지능형 추론 단서들의 집합으로 재해석함으로써 이러한 간극을 메우고자 합니다. 우리는 고위험 임상 의사 결정(집중 치료 환경에서 패혈증 환자 치료)에서 발생하는 8가지 유형의 추론 단서가 수행하는 역할들을 탐구합니다. 6개 팀과의 심층 인터뷰와 25명의 의사들을 대상으로 한 '생각하는 소리' 연구를 통해, 추론 단서가 의사 설계에 직접적으로 반영될 수 있는 뚜렷한 영향 패턴을 가지고 있음을 확인했습니다. 또한, 추론 단서들은 변동성과 자율성이 높은 작업에 우선순위를 두어야 하며, 변화하는 의사 결정 요구 사항에 맞춰 적응해야 하고, 복잡한 사례에 대한 보완적이고 엄격한 통찰력을 제공해야 한다는 점을 시사합니다.

Artificial intelligence (AI)-based decision support systems can be highly accurate yet still fail to support users or improve decisions. Existing theories of AI-assisted decision-making focus on calibrating reliance on AI advice, leaving it unclear how different system designs might influence the reasoning processes underneath. We address this gap by reconsidering AI interfaces as collections of intelligent reasoning cues: discrete pieces of AI information that can individually influence decision-making. We then explore the roles of eight types of reasoning cues in a high-stakes clinical decision (treating patients with sepsis in intensive care). Through contextual inquiries with six teams and a think-aloud study with 25 physicians, we find that reasoning cues have distinct patterns of influence that can directly inform design. Our results also suggest that reasoning cues should prioritize tasks with high variability and discretion, adapt to ensure compatibility with evolving decision needs, and provide complementary, rigorous insights on complex cases.