AI가 "저도 비슷한 상황을 경험해봤어요"라고 말할 때: 또래 돌봄 지원에서의 인공적인 삶의 경험

When AI Says "I have been in similar situations": Synthetic Lived Experience in Peer-Like Caregiver Support

돌봄 제공자들은 종종 정보 및 정서적 지원을 위해 온라인 커뮤니티를 찾습니다. 이러한 공간에서, 또래 지지자들은 감정적으로 복잡한 돌봄 상황에 대한 반응으로 개인적인 이야기를 자주 활용합니다. LLM(대규모 언어 모델)이 점점 더 또래와 같은 지원의 형태로 설계됨에 따라, 중요한 긴장이 발생합니다. AI는 즉각적이고 사생활 보호가 되며 비판적이지 않은 지원을 제공할 수 있지만, 인간의 또래 지지가 의미 있게 만드는 진정한 삶의 경험을 가질 수 없습니다. 그러나, '또래처럼' 말하도록 유도될 때, LLM은 삶의 경험이 있음을 암시하는 언어를 생성할 수 있습니다. 이는 인공적인 삶의 경험이라는 역설을 야기합니다. 즉, AI 지원을 따뜻하고 공감하며 또래와 같은 느낌으로 만들어 줄 수 있는 경험적 언어는 동시에 시스템을 실제로 그 경험을 가진 사람처럼 보이게 할 수도 있습니다. 본 연구에서는 알츠하이머병 및 관련 치매(ADRD) 환자를 돌보는 가족 돌봄 제공자들을 대상으로 이 역설을 분석합니다. 온라인 커뮤니티의 돌봄 지원 교류 내용과 LLaMA, GPT-4o-mini, MedGemma 세 가지 LLM으로부터 얻은 '또래처럼' 말하는 응답 내용을 바탕으로, 인간 또래 지지자들이 개인적인 이야기를 어떻게 사용하는지와 AI가 유사한 이야기 형식을 어떻게 통합하는지를 분석했습니다. 심리언어학적 분석 결과, 인간 또래의 답변이 '또래처럼' 말하는 AI 응답보다 주관 대명사와 과거 시제를 훨씬 더 많이 사용했습니다. 질적으로, 우리는 인간 또래 지원에서 발견되는 일곱 가지 유형의 개인적인 이야기를 식별하고, AI가 종종 감정적인 측면은 포착하지만 경험적 근거를 허구로 만들어낼 수 있다는 것을 보여줍니다. 이러한 결과는 또래와 같은 AI가 의미 있는 또래 지지를 제공하는 데 필요한 실제 경험 없이 인공적인 삶의 경험을 생성할 수 있는 '이야기 진정성 격차'를 드러냅니다. 우리는 돌봄 지원 AI 시스템이 지지적인 또래와 같은 표현과 허구적인 삶의 경험을 구별할 수 있는 메커니즘을 갖추어야 한다고 주장합니다. 이를 통해 모델은 실제 경험을 가진 또래로 잘못 인식되지 않고 따뜻함과 공감을 제공할 수 있습니다.

Caregivers often turn to online communities for informational and emotional support. In these spaces, peer supporters frequently draw on personal narratives to respond to emotionally complex caregiving situations. As LLMs are increasingly designed as peer-like sources of support, they introduce a critical tension: AI can provide immediate, private, and nonjudgmental support, but it cannot authentically possess the lived experiences that make human peer support meaningful. Yet, when prompted to sound peer-like, LLMs may generate language that implies lived experience. This creates a synthetic lived experience paradox: the same experiential language that may make AI support feel warm, relatable, and peer-like can also falsely position the system as someone with lived experience. We examine this paradox in the context of family caregivers of people living with Alzheimer's Disease and Related Dementias (ADRD). Drawing on caregiver support exchanges from online communities and prompted peer-like responses from three LLMs -- LLaMA, GPT-4o-mini, and MedGemma -- we analyze how human peers use personal narratives and how AI incorporates similar narrative forms. Psycholinguistic analysis shows that peer responses used significantly more first-person and past-focused language than peer-like AI responses. Qualitatively, we identify seven types of personal narratives in human peer support and show that AI often captures their emotional work, but can fabricate experiential grounding. These findings reveal a narrative authenticity gap: peer-like AI can generate synthetic lived experience without the real experience that makes peer support meaningful. We argue that caregiver-support AI systems need mechanisms to distinguish supportive peer-like framing from fabricated lived experience, ensuring that models can offer warmth and validation without falsely positioning themselves as experiential peers.