레벨 업: 교육 과정 학습을 위한 전환 문제 정의 및 활용

Level Up: Defining and Exploiting Transitional Problems for Curriculum Learning

교육 과정 학습은 인간 학습에서 영감을 받아 머신러닝의 효율성을 높이는 방법으로, 학습 데이터를 특정 순서로 배열하는 것을 목표로 합니다. 하지만 아직 널리 받아들여지지 않고 있습니다. 기존의 정적인 난이도 측정 방법은 품질이 다양한 간접적인 지표에 의존하여, 학습자 개인에게 특화된 교육 과정을 생성하지 못합니다. 반면, 동적인 방법은 학습 과정 중 발생하는 그래디언트 정보를 기반으로 난이도를 추정하며, 이로 인해 상당한 추가적인 계산량이 필요합니다. 본 연구에서는 개별 문제의 난이도를 특정 모델의 능력과 직접적으로 연관 지어 측정하는 새로운 방법을 제시하고, 모델의 능력이 증가함에 따라 지속적으로 더 쉬워지는 전환 문제를 식별합니다. 체스와 수학 분야에 이 방법을 적용한 결과, 더 쉽고 쉬운 전환 문제부터 더 어렵고 어려운 문제 순으로 구성된 교육 과정을 통해 모델의 역량을 효율적으로 향상시킬 수 있음을 확인했습니다. 이러한 문제들은 자연스러운 난이도 상승을 유도하며, 다른 학습 전략보다 우수한 성능을 보입니다. 본 연구에서 제시하는 방법은 모델의 능력과 직접적으로 관련된 난이도를 측정함으로써, 해석 가능한 문제, 학습자 맞춤형 교육 과정, 그리고 단계별 개선을 위한 합리적인 기반을 제공합니다.

Curriculum learning--ordering training examples in a sequence to aid machine learning--takes inspiration from human learning, but has not gained widespread acceptance. Static strategies for scoring item difficulty rely on indirect proxy scores of varying quality and produce curricula that are not specific to the learner at hand. Dynamic approaches base difficulty estimates on gradient information, requiring considerable extra computation during training. We introduce a novel method for measuring the difficulty of individual problem instances directly relative to the ability of a given model, and identify transitional problems that are consistently easier as model ability increases. Applying this method to chess and mathematics, we find that training on a curriculum that "levels up" from easier to harder transitional problems most efficiently improves a model to the next tier of competence. These problems induce a natural progression from easier to harder items, which outperforms other training strategies. By measuring difficulty directly relative to model competence, our method yields interpretable problems, learner-specific curricula, and a principled basis for step-by-step improvement.