스파이킹 포인트 클라우드 모델을 위한 매개변수 효율적인 미세 조정

Parameter-Efficient Fine-Tuning for Spiking Point Cloud Models

스파이크 신경망(SNN)은 이벤트 기반 연산을 통해 자원 제약 환경에서 포인트 클라우드 분석에 대한 에너지 효율적인 솔루션을 제공합니다. 그러나 기존의 사전 훈련된 스파이킹 포인트 클라우드 모델은 다운스트림 작업 적응을 위해 전체 미세 조정 방식을 사용하며, 이로 인해 상당한 매개변수 및 저장 공간 오버헤드가 발생합니다. 또한, 이진 스파이크 전파는 작업과 관련된 서임계 정보를 억제합니다. 이러한 문제를 해결하기 위해, 본 논문에서는 스파이킹 포인트 클라우드 모델을 위한 최초의 매개변수 효율적인 미세 조정 프레임워크인 SpikePEFT를 제안합니다. 구체적으로, Intrinsic Dynamics Tuning (IDT)은 사전 훈련된 시냅스 변환을 고정하고 신경 내부 적응을 효율적으로 수행하도록 막 전위 감쇠 및 발화 임계값을 적응적으로 조절합니다. 또한, Silent-State Disambiguation Adaptation (SSDA)는 정보적인 정지 상태로부터 작업과 관련된 정보를 복구하여 다운스트림 적응에 더 풍부한 증거를 제공합니다. 여러 벤치마크에서 수행된 광범위한 실험은 SpikePEFT의 효과와 효율성을 입증합니다. 특히, 본 연구 방법은 ModelNet40에서 92.4%의 정확도를, 가장 어려운 분류 데이터셋인 ScanObjectNN(PB_T50_RS)에서는 85.6%의 정확도를 달성했으며, 동시에 학습 가능한 매개변수의 약 5%만 업데이트하고 SNN의 에너지 효율성을 유지합니다. 본 연구는 뉴로모픽 비전 모델의 매개변수 효율적인 적응을 위한 유망한 발걸음입니다.

Spiking Neural Networks (SNNs) offer energy-efficient solutions for point cloud analysis on resource-constrained devices through event-driven computation. However, existing pre-trained spiking point cloud models rely on full fine-tuning for downstream task adaptation, incurring substantial parameter and storage overhead. Furthermore, binary spike propagation suppresses task-relevant sub-threshold information. To address these issues, we propose SpikePEFT, the first parameter-efficient fine-tuning framework for spiking point cloud models. Specifically, Intrinsic Dynamics Tuning (IDT) adaptively modulates membrane decay and firing thresholds, enabling efficient neuron-intrinsic adaptation while keeping the pre-trained synaptic transformations frozen. Moreover, Silent-State Disambiguation Adaptation (SSDA) recovers task-relevant information from informative silent states, thereby providing richer evidence for downstream adaptation. Extensive experiments across multiple benchmarks demonstrate the effectiveness and efficiency of SpikePEFT. In particular, our method achieves 92.4% accuracy on ModelNet40 and 85.6\% on the most challenging classification split ScanObjectNN(PB\_T50\_RS) while updating only about 5% of the trainable parameters and preserving the energy efficiency of SNNs. This work provides a promising step toward parameter-efficient adaptation of neuromorphic vision models.