AI 지원은 문제 해결 능력 지속성을 저해하고 독립적인 수행 능력을 감소시킨다

AI Assistance Reduces Persistence and Hurts Independent Performance

사람들은 협업 시 장기적인 목표를 추구하는 경향이 있습니다. 멘토나 동료는 단순히 질문에 답하는 것뿐만 아니라 학습을 지원하고, 진행 상황을 추적하며, 상대방의 성장을 즉각적인 결과보다 우선시합니다. 반면, 현재의 AI 시스템은 근본적으로 단기적인 관점을 가진 협력자입니다. 즉각적이고 완전한 답변을 제공하도록 최적화되어 있으며, 안전상의 이유가 없는 한 '아니오'라고 말하지 않습니다. 이러한 역학 관계는 어떤 결과를 초래할까요? 본 연구에서는 인간-AI 상호 작용에 대한 일련의 무작위 통제 실험(N = 1,222)을 통해 AI 지원의 두 가지 주요 결과, 즉 문제 해결 능력 지속성 저하 및 AI 지원 없이 수행하는 능력 저하에 대한 인과적 증거를 제공합니다. 수학적 추론 및 독해 이해를 포함한 다양한 과제에서 AI 지원은 단기적으로는 성과를 향상시키지만, AI 없이 수행할 때 사람들은 훨씬 더 나쁜 성과를 보이며 포기할 가능성이 더 높다는 것을 발견했습니다. 주목할 만한 점은 이러한 효과가 AI와의 짧은 상호 작용(약 10분) 후에 나타난다는 것입니다. 이러한 결과는 특히 우려스럽습니다. 왜냐하면 문제 해결 능력 지속성은 기술 습득의 기본이며 장기적인 학습의 가장 강력한 예측 변수 중 하나이기 때문입니다. 우리는 AI가 사람들에게 즉각적인 답변을 기대하게 만들어 스스로 문제를 해결하는 경험을 차단함으로써 문제 해결 능력 지속성을 감소시킨다고 가정합니다. 이러한 결과는 AI 모델 개발이 즉각적인 과제 완료와 함께 장기적인 역량을 강화하는 것을 우선시해야 할 필요성을 시사합니다.

People often optimize for long-term goals in collaboration: A mentor or companion doesn't just answer questions, but also scaffolds learning, tracks progress, and prioritizes the other person's growth over immediate results. In contrast, current AI systems are fundamentally short-sighted collaborators - optimized for providing instant and complete responses, without ever saying no (unless for safety reasons). What are the consequences of this dynamic? Here, through a series of randomized controlled trials on human-AI interactions (N = 1,222), we provide causal evidence for two key consequences of AI assistance: reduced persistence and impairment of unassisted performance. Across a variety of tasks, including mathematical reasoning and reading comprehension, we find that although AI assistance improves performance in the short-term, people perform significantly worse without AI and are more likely to give up. Notably, these effects emerge after only brief interactions with AI (approximately 10 minutes). These findings are particularly concerning because persistence is foundational to skill acquisition and is one of the strongest predictors of long-term learning. We posit that persistence is reduced because AI conditions people to expect immediate answers, thereby denying them the experience of working through challenges on their own. These results suggest the need for AI model development to prioritize scaffolding long-term competence alongside immediate task completion.