루프 기반 추론 언어 모델의 메커니즘 분석

A Mechanistic Analysis of Looped Reasoning Language Models

추론은 대규모 언어 모델의 핵심 기능이 되었습니다. 최근 연구에 따르면, LLM의 레이어를 잠재 공간에서 루프 처리함으로써 추론 성능을 향상시킬 수 있으며, 이를 루프 기반 추론 언어 모델이라고 합니다. 유망한 결과에도 불구하고, 이러한 모델의 내부 작동 방식이 표준 순방향 신경망 모델과 어떻게 다른지에 대한 연구는 아직 부족합니다. 본 논문에서는 루프 기반 언어 모델의 잠재 상태에 대한 메커니즘 분석을 수행하며, 특히 순방향 모델에서 관찰되는 추론 단계와 루프 기반 모델에서 관찰되는 단계의 차이점을 중점적으로 분석합니다. 이를 위해, 우리는 순환적 반복을 분석하고, 연구된 모델 중 많은 모델에서 각 레이어가 서로 다른 고정점에 수렴한다는 것을 보여줍니다. 그 결과, 순환 블록은 잠재 공간에서 일관된 순환 궤적을 따릅니다. 이러한 고정점에 도달함에 따라 어텐션 헤드의 동작이 안정화되어 반복 횟수에 관계없이 일관된 동작을 보인다는 증거를 제시합니다. 경험적으로, 순환 블록은 순방향 모델과 유사한 추론 단계를 학습하며, 이러한 단계를 반복적으로 깊게 수행한다는 것을 발견했습니다. 또한, 순환 블록의 크기, 입력 주입, 정규화가 이러한 순환 고정점의 발생 및 안정성에 미치는 영향을 연구합니다. 본 연구의 결과는 메커니즘적 통찰력을 실제 아키텍처 설계에 적용하는 데 도움이 될 것이라고 생각합니다.

Reasoning has become a central capability in large language models. Recent research has shown that reasoning performance can be improved by looping an LLM's layers in the latent dimension, resulting in looped reasoning language models. Despite promising results, few works have investigated how their internal dynamics differ from those of standard feedforward models. In this paper, we conduct a mechanistic analysis of the latent states in looped language models, focusing in particular on how the stages of inference observed in feedforward models compare to those observed in looped ones. To this end, we analyze cyclic recurrence and show that for many of the studied models each layer in the cycle converges to a distinct fixed point; consequently, the recurrent block follows a consistent cyclic trajectory in the latent space. We provide evidence that as these fixed points are reached, attention-head behavior stabilizes, leading to constant behavior across recurrences. Empirically, we discover that recurrent blocks learn stages of inference that closely mirror those of feedforward models, repeating these stages in depth with each iteration. We study how recurrent block size, input injection, and normalization influence the emergence and stability of these cyclic fixed points. We believe these findings help translate mechanistic insights into practical guidance for architectural design.