신경-기호 지식 추적: 책임감 있는 학습자 모델링을 위한 딥러닝에 교육 지식 주입

Neural-Symbolic Knowledge Tracing: Injecting Educational Knowledge into Deep Learning for Responsible Learner Modelling

교육 분야에서 인공지능(AI), 특히 대규모 언어 모델(LLM)의 활용이 증가하면서 지능형 튜터링 시스템에 대한 관심이 높아지고 있습니다. 그러나 LLM은 종종 제한적인 적응성을 보이며, 학습자의 변화하는 지식을 모델링하는 데 어려움을 겪어, 헌신적인 학습자 모델링 접근 방식의 필요성을 강조합니다. 딥 지식 추적 방법은 강력한 예측 성능을 달성하지만, 투명성이 부족하고 편향에 취약하여 교육 원칙과의 일관성을 저해할 수 있습니다. 이러한 문제를 해결하기 위해, 우리는 책임감 있는 학습자 모델링을 위한 신경-기호 딥 지식 추적 접근 방식인 Responsible-DKT를 제안합니다. Responsible-DKT는 순차적 신경 모델에 기호적 교육 지식(예: 숙달 및 비숙달 규칙)을 통합하여 작동합니다. 실제 학생들의 수학 학습 데이터에 대한 실험 결과, Responsible-DKT는 신경-기호 기반 모델과 완전 데이터 기반 PyTorch DKT 모델 모두를 능가하는 성능을 보였습니다. 모델은 훈련 데이터의 10%만 사용했을 때 0.80 이상의 AUC 값을 달성했으며, 최대 0.90의 AUC 값을 얻어 성능을 최대 13% 향상시켰습니다. 또한, 시간적 신뢰성이 향상되어 초기 및 중간 시퀀스 예측 오류가 줄어들고, 시퀀스 길이에 따른 예측 불일치율이 가장 낮아, 예측 업데이트가 시간이 지남에 따라 관찰된 학생 응답과 일관성을 유지함을 나타냅니다. 더욱이, 신경-기호 접근 방식은 근거 기반 계산 그래프를 통해 예측의 근거가 되는 논리를 보여줌으로써 내재적인 해석 가능성을 제공하며, 이는 로컬 및 글로벌 설명을 가능하게 합니다. 또한, 이 방식은 교육적 가정에 대한 경험적 평가를 가능하게 하여, 반복적인 오답(비숙달)이 예측 업데이트에 큰 영향을 미친다는 것을 밝혀냅니다. 이러한 결과는 신경-기호 접근 방식이 성능과 해석 가능성을 향상시키고, 데이터 제한을 완화하며, 교육 분야에서 더욱 책임감 있고 인간 중심적인 AI를 지원한다는 것을 시사합니다.

The growing use of artificial intelligence (AI) in education, particularly large language models (LLMs), has increased interest in intelligent tutoring systems. However, LLMs often show limited adaptivity and struggle to model learners' evolving knowledge over time, highlighting the need for dedicated learner modelling approaches. Although deep knowledge tracing methods achieve strong predictive performance, their opacity and susceptibility to bias can limit alignment with pedagogical principles. To address this, we propose Responsible-DKT, a neural-symbolic deep knowledge tracing approach that integrates symbolic educational knowledge (e.g., mastery and non-mastery rules) into sequential neural models for responsible learner modelling. Experiments on a real-world dataset of students' math interactions show that Responsible-DKT outperforms both a neural-symbolic baseline and a fully data-driven PyTorch DKT model across training settings. The model achieves over 0.80 AUC with only 10% of training data and up to 0.90 AUC, improving performance by up to 13%. It also demonstrates improved temporal reliability, producing lower early- and mid-sequence prediction errors and the lowest prediction inconsistency rates across sequence lengths, indicating that prediction updates remain directionally aligned with observed student responses over time. Furthermore, the neural-symbolic approach offers intrinsic interpretability via a grounded computation graph that exposes the logic behind each prediction, enabling both local and global explanations. It also allows empirical evaluation of pedagogical assumptions, revealing that repeated incorrect responses (non-mastery) strongly influence prediction updates. These results indicate that neural-symbolic approaches enhance both performance and interpretability, mitigate data limitations, and support more responsible, human-centered AI in education.