LLM 생성 질문을 활용하여 부모가 자녀의 생성형 AI 챗봇과의 상호작용을 조정하는 데 대한 이해

Understanding Parents' Desires in Moderating Children's Interactions with GenAI Chatbots through LLM-Generated Probes

본 연구는 부모가 자녀의 생성형 AI 챗봇과의 상호작용을 어떻게 조정하고 싶어하는지에 대해 조사하며, 향후 생성형 AI 부모 제어 도구 설계에 필요한 정보를 제공하는 것을 목표로 합니다. 먼저, LLM을 사용하여 가상의 아동-생성형 AI 챗봇 상호작용 시나리오를 생성하고, 4명의 부모와 함께 그 현실성을 검증했습니다. 이 데이터 세트에서, 다양한 수준의 우려를 불러일으키고 가장 현실적이라고 평가된 12개의 다양한 예시를 신중하게 선택했습니다. 각 예시는 프롬프트와 생성형 AI 챗봇의 응답으로 구성되었습니다. 이러한 예시를 24명의 부모에게 제시하고, 그들이 응답에 대해 우려를 느꼈는지, 그 이유가 무엇인지, 그리고 응답이 어떻게 수정되고 전달되기를 원하는지 질문했습니다. 연구 결과는 다음과 같은 세 가지 주요 통찰력을 보여줍니다: (1) 현재 생성형 AI 챗봇 부모 제어 기능에서 간과되는 상호작용에 대해 부모가 우려를 표현합니다. (2) 부모는 대화 수준에서 세밀한 투명성과 조절을 원합니다. (3) 부모는 자신의 원하는 전략과 자녀의 연령에 맞춰 조정될 수 있는 개인화된 제어가 필요합니다.

This paper studies how parents want to moderate children's interactions with Generative AI chatbots, with the goal of informing the design of future GenAI parental control tools. We first used an LLM to generate synthetic child-GenAI chatbot interaction scenarios and worked with four parents to validate their realism. From this dataset, we carefully selected 12 diverse examples that evoked varying levels of concern and were rated the most realistic. Each example included a prompt and a GenAI chatbot response. We presented these to parents (N=24) and asked whether they found them concerning, why, and how they would prefer the responses to be modified and communicated. Our findings reveal three key insights: (1) parents express concern about interactions that current GenAI chatbot parental controls neglect; (2) parents want fine-grained transparency and moderation at the conversation level; and (3) parents need personalized controls that adapt to their desired strategies and children's ages.