RAM2C: 검색 증강 다중 역할 다중 전문가 협업 기반의 교양 교육 챗봇

RAM2C: A Liberal Arts Educational Chatbot based on Retrieval-augmented Multi-role Multi-expert Collaboration

최근 대규모 언어 모델(LLM)을 교육용 대화에 활용하는 연구가 활발히 진행되고 있습니다. 특히 인문 교양 대화에서 교육자는 교과 지식 외에도 인간적인 소통(Humanized communication), 교수 전문성(Teaching expertise), 안전 및 윤리(Safety-ethics) 즉, HTS의 균형을 유지해야 합니다. 그러나 실제 환경에서 HTS를 준수하는 대량의 교육 대화 데이터를 훈련 말뭉치로 수집하는 것은 비용이 많이 들기 때문에, 기존 LLM의 교육 대화 결과물은 인간의 기준에 미치지 못하는 경우가 많습니다. 이를 해결하기 위해 본 연구에서는 이러한 대화 데이터를 자동으로 생성하는 검색 증강 다중 역할 다중 전문가 협업(RAM2C) 프레임워크를 설계했습니다. 구체적으로, 먼저 교수 기술, 심리학, 안전 윤리라는 세 가지 도메인 지식을 포괄하는 HTS 기반 지식 베이스를 구축했습니다. 그 후, RAM2C는 앞서 언급한 지식 베이스를 통해 검색 증강된 LLM들을 고유한 역할을 가진 다중 전문가 그룹으로 구성하여 HTS를 준수하는 교육 대화 데이터셋을 생성합니다. 이후 우리는 이 데이터셋을 활용하여 LLM을 미세 조정(fine-tuning)했습니다. 실증적 평가 결과, RAM2C가 적용된 LLM은 중국어 독해 교육에서 뛰어난 성능을 보였으며, 보다 개인화되고 윤리적으로 안전한 교육 응답을 제공함으로써 RAM2C의 실용성과 높은 품질을 입증했습니다. 실험 코드는 https://github.com/ram2c/ram2c에서 확인할 수 있습니다.

Recently, many studies focus on utilizing large language models (LLMs) into educational dialogues. Especially, within liberal arts dialogues, educators must balance \textbf{H}umanized communication, \textbf{T}eaching expertise, and \textbf{S}afety-ethics (\textbf{HTS}), besides the subject knowledge itself. However, due to collecting massive amounts of HTS-compliant teaching dialogues from real world as training corpus is expensive, the outputs of existing LLMs in teaching dialogues fall short of human standards. To address this, we design a Retrieval-augmented Multi-role Multi-expert Collaboration (RAM2C) framework to automatically generate such dialogues data. Specifically, we first establish HTS-guided knowledge bases, encompassing three domain knowledge in teaching skills, psychology, and safety ethics. Then, RAM2C organizes LLMs, which are retrieval-augmented by the above different knowledge bases, into multi-experts groups with distinct roles to generate the HTS-compliant educational dialogues dataset. We then fine-tuned the LLMs using this dataset. Empirical evaluations indicate that RM2C-empowered LLMs excel in Chinese reading teaching, offering more personalized, and ethically safe teaching response, demonstrating RAM2C's practicality and high quality. We release the experiments at \hyperlink{https://github.com/ram2c/ram2c}{https://github.com/ram2c/ram2c}.