양자 역학 예측을 위한 상호 보완적인 행렬 게이팅 기반의 빠른 가중치 프로그래머 (QKAN)

Complementary Matrix-Gated QKAN Fast-Weight Programmers for Quantum Dynamics Forecasting

순차 모델은 메모리에 무엇을 저장하고 무엇을 유지할지 결정해야 합니다. 양자 및 양자 영감 기반 순차 학습에서, 비선형 재귀 업데이트는 종종 반복적인 회로 평가와 시퀀스 역전파를 필요로 하며, 이는 긴 컨텍스트에 대한 계산 비용을 증가시킵니다. 양자 영감 콜모고로프-아르놀드 네트워크(QKAN) 기반의 게이팅된 빠른 가중치 프로그래머(FWP)는 시간 변화하는 빠른 파라미터에 컨텍스트를 저장함으로써 이러한 병목 현상을 완화합니다. 그러나 기존 방식은 단일 스칼라 게이트를 사용하여 모든 빠른 상태 좌표에 동일한 유지-쓰기 균형을 적용하므로, 모든 파라미터가 동일한 메모리 타임스케일을 공유하게 됩니다. 본 연구에서는 이 방송 게이트를 저랭크 생성된 요소별 조절 방식으로 대체하는 Self-Modulating QKAN 기반 FWP를 제안합니다. 이 방식은 새로운 제안 분기, 제한된 이전 상태 분기 또는 둘 다에 대한 조절을 수행합니다. 또한, 상호 보완적인 행렬 게이팅(CMG)을 제안하며, 이는 시그모이드 행렬 게이트 하나를 사용하여 이전 상태를 유지하고, 그 보수를 사용하여 새로운 제안을 기록합니다. CMG는 좌표별 메모리 제어를 제공하면서 스칼라 게이팅의 제한된 볼록 업데이트 및 선형 전방 탐색 구조를 유지하며, 동시에 단일 분기 규칙을 사용한 조절 헤드 비용을 발생시킵니다. 본 연구에서는 4가지 FWP 아키텍처(고전 방식과 QKAN 기반 느린/빠른 프로그래머 조합)에 대해 스칼라 게이팅 방식과 함께 4가지 Self-Modulating 방식을 비교했습니다. 7개의 단일 단계 예측 벤치마크와 5가지 시퀀스 길이에 걸쳐, CMG는 빠른 프로그래머에 QKAN 기반 모듈을 통합한 아키텍처에서 가장 일관된 성능 향상을 보였습니다. CUDA-Q Dynamics를 사용하여 시뮬레이션된 Jaynes-Cummings 및 transmon-resonator 역학의 직접 다단계 예측에서, CMG 모델은 4, 8, 16 단계의 예측 범위 내에서 평균 제곱 오차(MSE)가 0.001 이하인 수준을 유지했으며, 스칼라 게이팅 방식에 비해 최소 91.2% 이상의 성능 향상을 보였습니다. 이러한 결과는 좌표별 상호 보완적인 조절이 QKAN 기반 FWP의 안정적이고 효과적인 업데이트 메커니즘임을 입증합니다.

Sequence models must decide what to write into memory and what to retain. In quantum and quantum-inspired sequence learning, nonlinear recurrent updates often require repeated circuit evaluations and sequential backpropagation through time, making long contexts costly. Gated fast-weight programmers (FWPs) based on quantum-inspired Kolmogorov-Arnold networks (QKANs) alleviate this bottleneck by storing context in time-varying fast parameters. However, their scalar gate applies one retention-write balance to every fast-state coordinate, forcing all parameters to share a memory timescale. We introduce Self-Modulating QKAN-based FWPs, which replace this broadcast gate with low-rank-generated element-wise modulation of the new-proposal branch, a bounded old-state branch, or both. We further propose Complementary Matrix Gating (CMG), which uses one sigmoid matrix gate to retain the old state and its complement to write the new proposal. CMG provides coordinate-wise memory control while preserving the bounded convex update and affine prefix-scan structure of scalar gating, at the modulation-head cost of a single-branch rule. We compare four self-modulating rules with scalar gating across four FWP architectures combining classical and QKAN-based slow and fast programmers. Across seven single-step forecasting benchmarks and five sequence lengths, CMG gives the most consistent improvements for architectures whose fast programmer incorporates a QKAN-based module. In direct multi-step forecasting of Jaynes-Cummings and transmon-resonator dynamics simulated with CUDA-Q Dynamics, CMG models maintain mean-squared errors on the order of 0.001 or lower across forecasting horizons of 4, 8, and 16 steps, while improving on their scalar-gated counterparts by at least 91.2%. These results establish coordinate-wise complementary modulation as a stable and effective update for QKAN-based FWPs.