그로킹을 가설적으로 검증 가능한 유한 크기 상전이로 해석

Grokking as a Falsifiable Finite-Size Transition

그로킹 현상, 즉 초기 암기 이후 발생하는 지연된 일반화 능력은 종종 상전이(phase transition) 용어로 설명되지만, 이를 뒷받침할 수 있는 가설적으로 검증 가능한 유한 크기 조건이 부족했습니다. 본 연구에서는 $\mathbb{Z}_p$의 군의 차수 $p$를 허용 가능한 광범위 변수로, 그리고 별도로 분리된 스펙트럼 헤드-테일 대비를 표현 수준의 질서 매개변수로 간주하고, 응축 물질 물리학 스타일의 진단 체인을 적용하여 조잡한 그리드 스윕과 밀집된, 임계점 근처에서의 추가 검사를 수행했습니다. 바인더(Binder)와 유사한 교차점 분석 결과, 공유되는 유한 크기 경계가 드러났으며, 감수성 비교 분석은 부드러운 크로스오버 해석을 강하게 배척합니다 ($Δ\mathrm{AIC}=16.8$, 임계점 근처 검사에서). 따라서, 그로킹 현상에 대한 상전이 용어는 단순한 비유가 아닌, 정량적인 유한 크기 주장을 통해 검증될 수 있으며, 다만 현재로서는 상전이의 차수는 여전히 명확하게 규명되지 않았습니다.

Grokking -- the delayed onset of generalization after early memorization -- is often described with phase-transition language, but that claim has lacked falsifiable finite-size inputs. Here we supply those inputs by treating the group order $p$ of $\mathbb{Z}_p$ as an admissible extensive variable and a held-out spectral head-tail contrast as a representation-level order parameter, then apply a condensed-matter-style diagnostic chain to coarse-grid sweeps and a dense near-critical addition audit. Binder-like crossings reveal a shared finite-size boundary, and susceptibility comparison strongly disfavors a smooth-crossover interpretation ($Δ\mathrm{AIC}=16.8$ in the near-critical audit). Phase-transition language in grokking can therefore be tested as a quantitative finite-size claim rather than invoked as analogy alone, although the transition order remains unresolved at present.