제한적인 사고, 생성형 머신: 인간의 휴리스틱과 협력하고 편향 위험을 줄이는 대화형 인공지능 설계

Bounded Minds, Generative Machines: Envisioning Conversational AI that Works with Human Heuristics and Reduces Bias Risk

대화형 인공지능은 정보 검색 및 의사 결정의 주요 인터페이스로 빠르게 자리 잡고 있지만, 대부분의 시스템은 여전히 이상적인 사용자를 전제로 합니다. 현실에서는 인간의 사고가 제한된 주의력, 불균등한 지식, 그리고 적응적이지만 편향되기 쉬운 휴리스틱에 의해 제약됩니다. 본 논문은 제한된 합리성을 기반으로 하는 연구 방향을 제시하며, 대화형 인공지능은 인간의 휴리스틱에 역행하는 것이 아니라 협력하도록 설계되어야 한다고 주장합니다. 또한, 인지적 취약점을 감지하고, 불확실한 상황에서의 판단을 지원하며, 사실적 정확성뿐만 아니라 의사 결정의 질과 인지적 강건성을 평가하는 등 대화형 시스템의 주요 발전 방향을 제시합니다.

Conversational AI is rapidly becoming a primary interface for information seeking and decision making, yet most systems still assume idealized users. In practice, human reasoning is bounded by limited attention, uneven knowledge, and reliance on heuristics that are adaptive but bias-prone. This article outlines a research pathway grounded in bounded rationality, and argues that conversational AI should be designed to work with human heuristics rather than against them. It identifies key directions for detecting cognitive vulnerability, supporting judgment under uncertainty, and evaluating conversational systems beyond factual accuracy, toward decision quality and cognitive robustness.