NeuMoSync: 연속 학습에서의 가소성과 적응성을 위한 엔드-투-엔드 신경 조절 제어

NeuMoSync: End-to-End Neuromodulatory Control for Plasticity and Adaptability in Continual Learning

연속 학습(CL)은 모델이 작업을 순차적으로 학습하도록 요구하지만, 심층 신경망은 종종 가소성 손실과 지식 전달 능력 저하로 인해 장기적인 적응성에 어려움을 겪습니다. 본 연구는 뇌의 전역적인 신경 조절 메커니즘에서 영감을 받아, 심층 신경망에 동적이고 뉴런별 조절을 통합하여 적응성과 가소성을 향상시키는 새로운 아키텍처인 NeuMoSync를 제안합니다. NeuMoSync는 표준 신경망 구조에 각 뉴런에 대한 학습 가능한 특징 벡터를 추가하여 네트워크 전체의 역사적 맥락을 추적하고, 더 높은 수준의 추상화를 수행하는 모듈을 통합합니다. 이 모듈은 현재 입력과 네트워크의 진화하는 상태에 기반하여 뉴런별 신호를 합성하여 활성화 역학과 시냅스 가소성을 적응적으로 조절합니다. 다양한 연속 학습 벤치마크(메모리: Random Label CIFAR-10 및 Random Label MNIST, 개념 변화: Shuffle CIFAR-10 및 Shuffle Mini-ImageNet, 클래스 증분 학습: Class Split ImageNet 및 Class Split CIFAR-100, 도메인 증분 학습: Permuted MNIST)에서 NeuMoSync는 뛰어난 성능을 보이며, 기존 방법과 비교하여 순방향 및 역방향 적응 모두에서 개선된 결과를 보여줍니다. 요소별 분석은 각 구성 요소의 필요성을 검증하며, 학습된 조절 신호 분석은 다양한 작업 간에 해석 가능한 조정 패턴을 드러냅니다. 본 연구는 심층 학습 시스템에 전역적인 조정 메커니즘을 통합하여 강력하고 적응적인 연속 학습을 발전시킬 수 있는 가능성을 보여줍니다. 코드 및 관련 자료는 https://github.com/RoozbehRazavi/NeuMoSync 에서 확인할 수 있습니다.

Continual learning (CL) requires models to learn tasks sequentially, yet deep neural networks often suffer from plasticity loss and poor knowledge transfer, which can impede their long-term adaptability. Drawing high-level inspiration from global neuromodulatory mechanisms in the brain, we introduce Neuromodulation and Synchronization (NeuMoSync), a novel architecture that integrates dynamic, neuron-specific modulation into deep neural networks to enhance their adaptability and plasticity. NeuMoSync extends standard neural network architectures with learnable feature vectors for each neuron that track network-wide historical context and with a module operating at a higher level of abstraction. This module synthesizes neuron-specific signals, conditioned on both current inputs and the network's evolving state, to adaptively regulate activation dynamics and synaptic plasticity. Evaluated on diverse CL benchmarks, including memorization (Random Label CIFAR-10 and Random Label MNIST), concept drift (Shuffle CIFAR-10 and Shuffle Mini-ImageNet), class-incremental learning (Class Split ImageNet and Class Split CIFAR-100), and domain-incremental learning (Permuted MNIST), NeuMoSync demonstrates strong performance in retaining plasticity and achieves improvements in both forward and backward adaptation compared with existing methods. Ablation studies validate the necessity of each component, while analysis of the learned modulatory signals reveals interpretable coordination patterns across tasks. Our work underscores the potential of integrating global coordination mechanisms into deep learning systems to advance robust, adaptive continual learning. The code is publicly available at https://github.com/RoozbehRazavi/NeuMoSync.