미로와 실: 대규모 언어 모델의 순차적 지식 편집에서의 정규화 방식 재고

The Labyrinth and the Thread: Rethinking Regularizations in Sequential Knowledge Editing for Large Language Models

대규모 언어 모델에서 구조화된 지식을 순차적으로 편집하면, 별도의 재학습 없이 특정 사실을 업데이트할 수 있지만, 기존 방법은 종종 복잡한 정규화 또는 제약 메커니즘에 의존하는데, 이러한 메커니즘의 필요성은 명확하지 않습니다. 본 연구에서는 효과적이고 안정적인 순차적 편집을 가능하게 하는 원리를 체계적으로 조사합니다. 구체적으로, 우리는 먼저 AlphaEdit의 경험적 성공을 분석하고, 엄격한 최적화 분석을 통해 일회성 편집과 순차적 편집 간의 형식적 동등성을 입증했습니다. 이러한 통찰력을 바탕으로, 우리는 이 동등성을 더 광범위한 편집 목표로 일반화하여, 안정성이 전문적인 정규화나 영공간 연산이 아닌, 누적된 편집 제약을 적절하게 고려함으로써 자연스럽게 나타난다는 것을 보여줍니다. 우리는 일반적으로 사용되는 많은 정규화 전략들이 신뢰할 수 있는 순차적 업데이트를 위해 불필요하다는 것을 경험적으로 확인했습니다. 또한, 우리는 우리의 프레임워크를 충돌하는 편집을 처리하도록 확장하여, 상반된 업데이트에서도 강력하고 일관된 동작을 보장합니다. 궁극적으로, 본 연구는 순차적 편집의 미로 속에서 아리아드네의 실과 같은 역할을 하여, 더 간단하고 해석 가능하며 신뢰할 수 있는 지식 업데이트를 위한 방법을 제시합니다. 우리의 코드는 https://github.com/Wangzzzzzzzz/OTE-SE-Alignment 에서 확인할 수 있습니다.

Sequential editing of structured knowledge in large language models allows targeted factual updates without retraining, yet existing methods often rely on complex regularization or constraint mechanisms whose necessity remains unclear. In this work, we systematically investigate the mechanisms underlying effective and stable sequential editing. Specifically, we first analyze the empirical success of AlphaEdit and establish, via a rigorous optimization analysis, the formal equivalence between one-time and sequential editing. Building on this insight, we generalize the equivalence to a broader class of editing objectives, demonstrating that stability emerges naturally from properly accounting for accumulated editing constraints, rather than from specialized regularization or null-space operations. We empirically confirm that many commonly used regularization strategies are unnecessary for reliable sequential updates. Furthermore, we extend our framework to handle conflicting edits, ensuring robust and consistent behavior under contradictory updates. Ultimately, our work provides Ariadne's thread through the labyrinth of sequential editing, charting a path toward simpler, more interpretable, and dependable knowledge updates. Our code is available at https://github.com/Wangzzzzzzzz/OTE-SE-Alignment.