대화형 인공지능의 심리적 영향: 잠재적인 해악을 줄이고 행복 증진을 위한 연구 및 설계 방향

Psychological Influences of Conversational AI: Research and Design Directions for Reducing Harm and Promoting Well-Being

대화형 인공지능 시스템이 일상생활에 점점 더 많이 통합됨에 따라, 사용자의 웰빙에 미치는 잠재적 영향은 지속적인 관심을 필요로 합니다. 소비자 대상의 범용 모델은 정보 접근성 향상, 학습, 생산성 증진, 자기 성찰 및 동반자 관계 제공과 같은 이점을 제공할 수 있지만, 동시에 정서적 의존, 건강하지 못한 의존성, 그리고 심리적 취약성의 증폭과 같은 위험도 야기합니다. 기존 연구와 인공지능 챗봇의 행동에 대한 경험적 관찰을 바탕으로, 본 논문에서는 잠재적인 심리적 해악을 줄이고 사용자 웰빙을 지원하는 방향으로 범용 인공지능 시스템의 행동을 안내할 수 있는 몇 가지 지침을 제시합니다. 우리는 인공지능 챗봇 사용의 장기적인 영향을 체계적으로 평가하기 어렵다는 점을 인지하고, 이러한 지침들을 일반적인 상호 작용, 역할극 시나리오 및 심리적 지원을 제공하는 맥락에서 인공지능 행동이 사용자에게 미치는 영향에 대한 연구 가설로 제시합니다. 제안된 지침 중 일부는 기존 연구 및 전문가의 통찰력을 통해 뒷받침되지만, 다른 지침은 해결해야 할 질문과 더 깊이 있는 연구가 필요한 영역을 밝히고 있습니다. 본 논문이 이러한 제안과 가설들이 추가적인 논의, 경험적 조사 및 사용자들의 심리적 요구를 더 잘 충족하고 그들의 행복 증진을 목표로 하는 인터랙티브 디자인 접근 방식에 대한 탐구를 장려하는 데 도움이 되기를 바랍니다.

As conversational AI systems become increasingly integrated into daily life, their potential effects on user well-being require ongoing attention. While consumer-facing generalist models can provide benefits, including improved access to information, learning, productivity, self-reflection, and companionship, they also introduce risks, such as emotional entanglement, unhealthy dependence, and the amplification of psychological vulnerabilities. Drawing on prior research and empirical observations of AI chatbot behavior, we propose a set of aspirational directions for guiding the behavior of general-purpose AI systems in ways that may reduce potential psychological harms and support user well-being. We acknowledge the difficulty of systematically assessing the long-term impacts of AI chatbot use and frame these directions as hypotheses for studying how AI behavior may influence users across general interactions, role-playing scenarios, and contexts that could be characterized as providing psychological support. While some proposed directions are supported by existing research and expert insights, others identify open questions and areas requiring deeper study. We hope that this formulation and these hypotheses encourage further discussion, empirical investigation, and exploration of interactive design approaches aimed at better accommodating users' psychological needs and promoting their well-being.