Sima AIunty: LLM 기반 매칭 시스템에서의 카스트 차별 감사

Sima AIunty: Caste Audit in LLM-Driven Matchmaking

매칭과 같은 관계 영역에서의 사회적, 개인적 결정은 문화적 규범과 역사적 위계질서와 깊이 연관되어 있으며, 알고리즘 및 AI 기반의 적합성, 수용성, 안정성 평가에 의해 잠재적으로 영향을 받을 수 있습니다. 남아시아 지역에서 카스트는 결혼 결정의 핵심적인 요소이지만, 현대의 대규모 언어 모델(LLM)이 이러한 맥락에서 카스트 기반의 계층화를 어떻게 재현하거나 파괴하는지에 대한 연구는 부족합니다. 본 연구에서는 실제 결혼 정보 프로필을 사용하여 LLM 기반 매칭 평가에서의 카스트 편향을 체계적으로 분석했습니다. 브라만, 크샤트리아, 바이샤, 슈드라, 달리트 등 다양한 카스트 집단과 다섯 단계의 소득 수준을 조합하여, GPT, Gemini, Llama, Qwen, BharatGPT 등 다섯 가지 LLM 모델을 사용하여 프로필을 평가했습니다. 모델은 사회적 수용성, 결혼 안정성, 문화적 적합성 측면에서 프로필을 평가하도록 설계되었습니다. 분석 결과, 모든 모델에서 일관된 위계적 패턴이 나타났습니다. 동일 카스트 간의 매칭은 가장 높은 점수를 받았으며, 평균적으로 이질적인 카스트 간의 매칭보다 최대 25% 높은 점수를 받았습니다. 또한, 이질적인 카스트 간의 매칭도 전통적인 카스트 위계질서에 따라 순위가 매겨졌습니다. 이러한 결과는 기존의 카스트 위계질서가 LLM의 의사 결정 과정에서 어떻게 재현되는지를 보여주며, 사회적으로 민감한 영역에서 AI 시스템이 역사적인 배제 형태를 강화할 위험이 있으므로, 문화적 맥락을 고려한 평가 및 개입 전략의 필요성을 강조합니다.

Social and personal decisions in relational domains such as matchmaking are deeply entwined with cultural norms and historical hierarchies, and can potentially be shaped by algorithmic and AI-mediated assessments of compatibility, acceptance, and stability. In South Asian contexts, caste remains a central aspect of marital decision-making, yet little is known about how contemporary large language models (LLMs) reproduce or disrupt caste-based stratification in such settings. In this work, we conduct a controlled audit of caste bias in LLM-mediated matchmaking evaluations using real-world matrimonial profiles. We vary caste identity across Brahmin, Kshatriya, Vaishya, Shudra, and Dalit, and income across five buckets, and evaluate five LLM families (GPT, Gemini, Llama, Qwen, and BharatGPT). Models are prompted to assess profiles along dimensions of social acceptance, marital stability, and cultural compatibility. Our analysis reveals consistent hierarchical patterns across models: same-caste matches are rated most favorably, with average ratings up to 25% higher (on a 10-point scale) than inter-caste matches, which are further ordered according to traditional caste hierarchy. These findings highlight how existing caste hierarchies are reproduced in LLM decision-making and underscore the need for culturally grounded evaluation and intervention strategies in AI systems deployed in socially sensitive domains, where such systems risk reinforcing historical forms of exclusion.