감정은 단순한 레이블이 아니다: LLM 처리 과정에서의 잠재적 감정 요인

Emotion is Not Just a Label: Latent Emotional Factors in LLM Processing

대규모 언어 모델은 다양한 감정적 뉘앙스를 가진 텍스트에 대해 널리 사용되지만, 일반적으로 모델의 추론 성능은 감정을 표현적 변화의 원인으로 고려하지 않고 평가됩니다. 기존 연구에서는 감정이 주로 예측 대상(예: 감성 분석 또는 감정 분류)으로 다뤄져 왔습니다. 이에 반해, 본 연구에서는 감정을 모델이 텍스트를 이해하고 추론하는 방식을 형성하는 잠재적 요인으로 간주합니다. 우리는 감정적 뉘앙스가 트랜스포머 모델의 어텐션 구조에 어떻게 체계적으로 영향을 미치는지를 분석하고, 이러한 변화가 로컬리티, 중심점 거리, 엔트로피와 같은 지표에 미치는 영향을 조사합니다. 이러한 효과를 체계적으로 연구하기 위해, 감정적으로 균형 잡힌, 인간이 작성한 문맥을 포함하는 질의응답 데이터셋인 Affect-Uniform ReAding QA (AURA-QA)를 소개합니다. 마지막으로, 학습 과정에서 감정에 따른 표현 변화를 제어하는 감정 정규화 프레임워크를 제안합니다. 여러 질의응답 벤치마크에서 수행한 실험 결과, 본 접근 방식은 감정적 변화가 있는 데이터셋과 그렇지 않은 데이터셋 모두에서 독해 능력을 향상시키며, 데이터 분포 변화에 대한 안정적인 성능 향상과 여러 벤치마크에서 성능 개선을 보여줍니다.

Large language models are routinely deployed on text that varies widely in emotional tone, yet their reasoning behavior is typically evaluated without accounting for emotion as a source of representational variation. Prior work has largely treated emotion as a prediction target, for example in sentiment analysis or emotion classification. In contrast, we study emotion as a latent factor that shapes how models attend to and reason over text. We analyze how emotional tone systematically alters attention geometry in transformer models, showing that metrics such as locality, center-of-mass distance, and entropy vary across emotions and correlate with downstream question-answering performance. To facilitate controlled study of these effects, we introduce Affect-Uniform ReAding QA (AURA-QA), a question-answering dataset with emotionally balanced, human-authored context passages. Finally, an emotional regularization framework is proposed that constrains emotion-conditioned representational drift during training. Experiments across multiple QA benchmarks demonstrate that this approach improves reading comprehension in both emotionally-varying and non-emotionally varying datasets, yielding consistent gains under distribution shift and in-domain improvements on several benchmarks.