교육 분야에서 인공지능에 대한 신뢰와 의존: 인공지능 이해도 및 인지 욕구의 조절 효과

Trust and Reliance on AI in Education: AI Literacy and Need for Cognition as Moderators

생성형 인공지능 시스템이 교육 환경에 통합됨에 따라, 학생들은 학습 과제를 수행하는 과정에서 인공지능이 생성한 결과물을 접하게 됩니다. 이는 도움을 요청하거나 통합 도구를 사용할 때 발생할 수 있습니다. 인공지능에 대한 신뢰는 학생들이 해당 결과물을 어떻게 해석하고 사용하는지에 영향을 미칠 수 있으며, 이는 비판적으로 평가하는지 또는 과도하게 의존하는지에 영향을 줄 수 있습니다. 본 연구는 학생들이 프로그래밍 문제 해결 과제 중 인공지능 어시스턴트에 대한 적절한 의존성을 보이는 정도와, 이러한 관계가 학습자의 특성에 따라 어떻게 달라지는지를 조사합니다. 432명의 학부생을 대상으로, 학생들은 인공지능 챗봇으로부터 정확하고 의도적으로 잘못된 제안 및 설명을 받으면서 파이썬 출력 예측 문제를 해결했습니다. 학생들의 답변이 인공지능 어시스턴트의 제안을 얼마나 적절하게 사용했는지, 즉, 정확한 제안은 수용하고 부정확한 제안은 거부했는지에 따라 의존성을 행동적으로 측정했습니다. 사전 및 사후 설문 조사를 통해 학생들의 인공지능 어시스턴트에 대한 신뢰도, 인공지능 이해도, 인지 욕구, 프로그래밍 자기 효능감 및 프로그래밍 이해도를 측정했습니다. 연구 결과, 신뢰도가 높을수록 적절한 의존성이 낮아지는 비선형적인 관계가 나타났으며, 이는 정확하고 부정확한 제안을 구별하는 능력이 약하다는 것을 시사합니다. 이러한 관계는 학생들의 인공지능 이해도 및 인지 욕구에 의해 유의미하게 조절되었습니다. 이러한 결과는 문제 해결 과정에서 인공지능 지원에 대한 보다 신중한 평가를 장려하는 교육 및 시스템 지원의 필요성을 강조합니다.

As generative AI systems are integrated into educational settings, students often encounter AI-generated output while working through learning tasks, either by requesting help or through integrated tools. Trust in AI can influence how students interpret and use that output, including whether they evaluate it critically or exhibit overreliance. We investigate how students' trust relates to their appropriate reliance on an AI assistant during programming problem-solving tasks, and whether this relationship differs by learner characteristics. With 432 undergraduate participants, students' completed Python output-prediction problems while receiving recommendations and explanations from an AI chatbot, including accurate and intentionally misleading suggestions. We operationalize reliance behaviorally as the extent to which students' responses reflected appropriate use of the AI assistant's suggestions, accepting them when they were correct and rejecting them when they were incorrect. Pre- and post-task surveys assessed trust in the assistant, AI literacy, need for cognition, programming self-efficacy, and programming literacy. Results showed a non-linear relationship in which higher trust was associated with lower appropriate reliance, suggesting weaker discrimination between correct and incorrect recommendations. This relationship was significantly moderated by students' AI literacy and need for cognition. These findings highlight the need for future work on instructional and system supports that encourage more reflective evaluation of AI assistance during problem-solving.