선택적 지식 억제를 통한 확장 가능한 지속적인 지식 편집

Towards Scalable Lifelong Knowledge Editing with Selective Knowledge Suppression

대규모 언어 모델(LLM)은 변화하는 사실을 반영하고 환각 현상을 완화하기 위해 빈번한 지식 업데이트가 필요합니다. 이러한 요구를 충족하기 위해, 지속적인 지식 편집은 전체 모델을 재학습하지 않고 특정 지식을 수정하는 지속적인 접근 방식으로 등장했습니다. 기존의 파라미터 편집 방법은 순차적인 편집 과정에서 재앙적 망각으로 인해 안정성 문제가 발생합니다. 검색 기반 접근 방식이 이러한 문제를 완화하기 위해 제안되었지만, 높은 학습 비용으로 인해 다양한 데이터셋에 대한 적용 가능성이 제한적입니다. 이러한 한계를 극복하고 지속적인 환경에서의 확장성을 향상시키기 위해, 우리는 LightEdit을 제안합니다. LightEdit 프레임워크는 먼저 검색된 정보에서 관련 지식을 선택하여 쿼리를 효과적으로 수정합니다. 그런 다음, 모델의 원래 지식 확률을 억제하는 디코딩 전략을 통합하여 선택된 정보에 기반한 효율적인 편집을 가능하게 합니다. ZSRE, Counterfact, 및 RIPE 벤치마크에서의 광범위한 실험 결과, LightEdit은 기존의 지속적인 지식 편집 방법보다 우수한 성능을 보임을 입증합니다. 또한, LightEdit은 학습 비용을 최소화하여 비용 효율적인 확장성을 달성하며, 다양한 데이터셋에 대한 쉬운 적응을 가능하게 합니다.

Large language models (LLMs) require frequent knowledge updates to reflect changing facts and mitigate hallucinations. To meet this demand, lifelong knowledge editing has emerged as a continual approach to modify specific pieces of knowledge without retraining the entire model. Existing parameter editing methods struggle with stability during sequential edits due to catastrophic forgetting. While retrieval-based approaches are proposed to alleviate this issue, their applicability remains limited across various datasets because of high training costs. To address these limitations and enhance scalability in lifelong settings, we propose LightEdit. Our framework first selects relevant knowledge from retrieved information to modify the query effectively. It then incorporates a decoding strategy to suppress the model's original knowledge probabilities, thereby enabling efficient edits based on the selected information. Extensive experiments on ZSRE, Counterfact, and RIPE benchmarks demonstrate that LightEdit outperforms existing lifelong knowledge editing methods. Furthermore, by minimizing training costs, LightEdit achieves cost-effective scalability, enabling easy adaptation to various datasets.