Mod-Guide: LLM 기반 콘텐츠 검열 피드백 시스템 - 소수 민족 및 종교 집단에 대한 부적절한 표현 문제 해결

Mod-Guide: An LLM-based Content Moderation Feedback System to Address Insensitive Speech toward Indigenous Ethnic and Religious Minority Communities

언어는 특히 온라인에서 차별과 혐오 발언에 노출되는 소수 커뮤니티에게 있어 소외와 저항의 수단으로 작용합니다. 콘텐츠 검열이 점점 더 대규모 언어 모델(LLM)에 의존함에 따라, 이러한 시스템이 역사적으로 소외된 커뮤니티의 문화 및 종교적 관점을 무시하거나 주변화하는 부적절한 표현을 인지할 수 있는지에 대한 우려가 제기되고 있습니다. 본 연구는 방글라데시의 힌두교도와 차크마족 커뮤니티(각각 해당 국가에서 가장 큰 규모의 종교 및 토착 소수 민족)를 중심으로, LLM 기반 검열 시스템의 인지 한계를 조사하고, 소수 커뮤니티의 관점을 통합하는 방법을 탐구합니다. 연구진은 커뮤니티 구성원들과 협력하여 문화적 맥락을 고려한 부적절한 표현 데이터셋을 구축하고, 검색 증강 생성(RAG) 기술을 활용하여 해당 내러티브를 검열 프로세스에 통합했습니다. 개발된 도구인 Mod-Guide는 실제 경험에서 파생된 맥락 정보를 활용하여 LLM이 소수 커뮤니티의 관점에 더욱 민감하게 반응하도록 합니다. 소수 및 다수 구성원을 포함한 다양한 참여자를 대상으로 혼합 방법론 평가를 수행한 결과, RAG 기술을 적용한 검열 답변은 더 정확한 맥락적 이해를 제공하며, 인종 간에 서로 다른 방식으로 인식된다는 것을 확인했습니다. 본 연구는 콘텐츠 검열 시스템 설계에 있어 회복적 정의와 해석적 포용성을 강조함으로써 인간-컴퓨터 상호작용, AI 윤리 및 소셜 컴퓨팅 분야의 발전에 기여합니다.

Language operates as a mechanism of both marginalization and resistance, especially for minority communities navigating insensitive and harmful speech online. As content moderation increasingly depends on large language models (LLMs), concerns arise about whether these systems can recognize culturally insensitive speech-language that disregards or marginalizes the cultural and religious perspectives of historically underrepresented communities, often through implicit erasure, misrepresentation, or normative framing, rather than overt hostility. Focusing on Bangladesh's Hindu and Chakma communities -- the country's largest religious and Indigenous ethnic minorities, respectively -- this paper investigates the epistemic limits of LLM-based moderation systems and explores methods for incorporating minority perspectives. We co-created a culturally grounded corpus of insensitive speech with community members and integrated their narratives into moderation pipelines using retrieval augmented generation (RAG). Our tool, Mod-Guide, improves LLM sensitivity to minority viewpoints by leveraging contextual cues derived from lived experience. Through mixed-method evaluations involving both minority and majority participants, we demonstrate that RAG-enhanced moderation responses are more contextually accurate and perceived differently across ethnic lines. This work advances research in human-computer interaction, AI ethics, and social computing by foregrounding restorative justice and hermeneutical inclusion in the design of content moderation systems.