안정적인 자기 조절형 양자 고속 가중치 프로그래머: 제한된 메모리 게이트를 사용

Stable Self-Modulating Quantum Fast-Weight Programmers with Bounded Memory Gates

양자 고속 가중치 프로그래머(QFWP)는 비선형 재귀 은닉 상태가 아닌 동적으로 프로그램되는 변분 회로 매개변수에 시간 정보를 저장하여 양자 시퀀스 모델링을 위한 실용적인 방법을 제공합니다. 자기 조절 QFWP는 입력 의존적 게이트를 사용하여 새로운 고속 가중치 업데이트와 누적된 고속 가중치 상태 모두에 대해 이 프레임워크를 개선하지만, 무제한적인 이전 상태 승수(old-state multiplier)는 긴 시퀀스에서 발산할 수 있습니다. 본 논문에서는 재귀 메모리 브랜치에만 부호 보존 tanh 게이트를 적용하여 제한된 이전 상태 조절 규칙을 제안하며, 이는 누적 업데이트 및 새로운 업데이트 조절은 변경하지 않습니다. 표준 QFWP, 완전한 자기 조절형 QFWP, 'Only-New', 그리고 'Only-Old' 변형을 CUDA-Q 양자 역학 예측 작업과 밀라노 SMS 통신 활동 예측에 대해 평가했습니다. 양자 역학 결과는 이전 상태 조절이 표준 QFWP보다 가장 일관되게 성능 향상을 가져다주며, 제한된 이전 상태 게이트는 긴 시퀀스에서의 발산을 제거하면서 전반적인 안정성을 향상시킨다는 것을 보여줍니다. 밀라노 SMS 예측에서는 원래의 무제한 자기 조절형 QFWP가 테스트된 모든 설정에서 수렴하며, 특히 더 긴 입력 윈도우에서 가장 큰 성능 향상을 보이며 'Only-Old' 변형과 유사한 동작을 나타냅니다. 이러한 결과는 누적 메모리 조절이 자기 조절형 QFWP의 핵심 메커니즘이며, 제한된 이전 상태 게이트가 목표 안정화 전략임을 시사합니다.

Quantum Fast-Weight Programmers (QFWPs) store temporal information in dynamically programmed variational-circuit parameters rather than in nonlinear recurrent hidden states, offering a practical route to quantum sequence modeling. Self-Modulating QFWP improves this framework by using input-dependent gates for both new fast-weight updates and the accumulated fast-weight state, but its unbounded old-state multiplier can diverge in long-sequence regimes. We propose a bounded old-state modulation rule that applies a sign-preserving tanh gate only to the recurrent memory branch while leaving the additive update and new-update modulation unchanged. We evaluate standard QFWP, full Self-Modulating QFWP, Only-New, and Only-Old variants on two CUDA-Q quantum-dynamics forecasting tasks and on Milan SMS telecommunication activity prediction. The quantum-dynamics results show that old-state modulation is the most consistent source of improvement over Standard QFWP, and that bounding the old-state gate removes long-sequence divergence while improving aggregate robustness. On Milan SMS forecasting, the original unbounded Self-Modulating QFWP converges across the tested grid and shows its clearest gains at longer input windows, with behavior close to the Only-Old ablation. These findings identify accumulated-memory modulation as the key mechanism of Self-Modulating QFWP and bounded old-state gating as a targeted stabilization strategy.