유도된 감정이 순차적 의사 결정 과정에서 LLM(대규모 언어 모델)의 행동에 영향을 미칠 수 있는가?

Can Induced Emotion Bias LLM Behaviors in Sequential Decision Making?

대규모 언어 모델(LLM)이 고위험 분야에서 자율 에이전트로 점점 더 많이 사용됨에 따라, 그들의 의사 결정 과정을 조절할 수 있는 맥락적 요인을 이해하는 것이 중요해지고 있습니다. LLM은 사용자 감정을 인식하고 공감하도록 훈련되지만, 유도된 감정이 실제로 순차적 의사 결정에 영향을 미치는지는 아직 명확하지 않습니다. 본 연구에서는 고전적인 의사 결정 행동 연구 패러다임인 '아이오와 게임 과제'(Iowa Gambling Task)와 상상 기반의 감정 유도 방법을 결합하여 이 질문을 조사합니다. 먼저, LLM이 문맥에서 강하고 구별 가능한 감정을 인식할 수 있고, LLM 에이전트가 인간과 유사한 속도로 순차적인 상호 작용으로부터 학습할 수 있다는 점을 확인하여 본 패러다임의 실현 가능성을 검증했습니다. 검증된 환경에서, 실험 결과 LLM 에이전트에게서 유도된 감정이 평균적으로 의사 결정 과정에 큰 영향을 미치지 않는다는 것을 알 수 있었습니다. 그러나 분노는 조건부적인 효과를 보였습니다. 분노를 유발하면 LLM 에이전트는 잘못된 의사 결정에 대한 처벌에 덜 민감해지고, 게임 초기에 분노는 탐색을 감소시켜 의사 결정을 몇 가지 선택지로 제한할 수 있습니다. 이러한 연구 결과는 LLM의 의사 결정 과정에 미치는 유도된 감정의 미묘하면서도 독특한 영향을 보여주며, 향후 LLM 에이전트의 정서적 조절에 대한 연구를 위한 도구를 제공합니다.

As Large Language Models (LLMs) are increasingly deployed as autonomous agents in high-stakes domains, understanding contextual factors that may modulate their decision-making becomes critical. While LLMs are trained to perceive and resonate with users' emotions, it remains unclear whether induced emotion can influence their sequential decision-making. We investigate this question using the Iowa Gambling Task (IGT), a classic psychological paradigm for studying decision-making under uncertainty, combined with an imagination-based emotion induction procedure. We first validate the feasibility of this paradigm by confirming that LLMs can sense strong, distinguishable emotions from context and that LLM agents can learn from sequential interactions in a human-like pace. With the validated setup, we find that, different from humans, induced emotion does not significantly bias the decision dynamics of LLM agents on average. However, the effects of anger are conditioned: inducing anger makes LLM agents less sensitive to penalties for bad decisions, and in early stages of the game, anger can lower exploration, locking decisions into a few choices early. These findings reveal the subtle yet distinct effects of induced emotion on LLM decision-making compared to human behavior, and provide a tool for future research on affective modulation of LLM agents.