홀로그래픽 양자 트랜스포머: 생성적 어텐션을 활용한 일반적인 신경-기호 아키텍처를 통한 좌절 시스템 해결

Holographic Quantum Transformer: A Generalist Neuro-Symbolic Architecture for Solving Frustrated Systems via Generative Attention

2차원 좌절 양자 물질의 시뮬레이션은 부호 문제와 지수적인 힐베르트 공간 복잡성으로 인해 매우 어려운 과제입니다. 본 연구에서는 물리적 영감을 받은 생성형 아키텍처인 홀로그래픽 양자 트랜스포머(HQT)를 제안합니다. HQT는 전역 자기 어텐션을 활용하여 비국소적인 얽힘 패턴을 해결합니다. 우리는 사각 격자의 $J_1-J_2$ 하이젠베르 모델에 대해 HQT를 검증했습니다. 강하게 좌절된 $8 imes 8$ 격자에서 양자 임계점($J_2=0.5$)에서 HQT는 부위당 기본 상태 에너지($E/N$)를 $oxed{-0.5001(1)}$로 달성했으며, 이는 예상되는 유한 크기 스케일링 경향과 일치합니다. 수치적 정확성 외에도, HQT는 내재적인 물리적 이해력을 보여주며 해석 가능한 어텐션 맵을 통해 근본적인 $J_2$ 상호 작용 형상을 자율적으로 복원합니다. 우리의 핵심 기여는 "홀로그래픽 전이(Holographic Transfer)"이며, 이는 빠른 정렬을 갖춘 제로샷 크기 추정 프로토콜입니다. $8 imes 8$ 시스템으로 학습된 모델은 연속적인 위치 임베딩 보간 및 헤드 재초기화를 통해 직접적으로 더 큰 $10 imes 10$ 격자로 투영되어, 높은 충실도의 초기화와 빠른 수렴을 달성합니다. 이 제로샷 프로토콜은 $E/N = oxed{-0.49782(3)}$의 에너지를 제공하며, 현재 최첨단 변분 상태와 통계적으로 일치하는 동시에 대상 격자에 대한 처음부터의 학습 없이 달성됩니다. 우리의 결과는 생성적 어텐션을 전이 가능한 양자 시뮬레이션을 위한 확장 가능한 패러다임으로 확립합니다.

Simulating two-dimensional frustrated quantum matter is a grand challenge due to the sign problem and exponential Hilbert space complexity. In this work, we introduce the Holographic Quantum Transformer (HQT), a physics-inspired generative architecture that leverages global self-attention to resolve non-local entanglement patterns. We validate HQT on the square lattice $J_1-J_2$ Heisenberg model. On the heavily frustrated $8 \times 8$ lattice at the quantum critical point ($J_2=0.5$), HQT reaches a ground-state energy per site ($E/N$) of $\mathbf{-0.5001(1)}$, consistent with the expected finite-size scaling trend. Beyond numerical accuracy, HQT exhibits intrinsic physical awareness, autonomously recovering the underlying $J_2$ interaction geometry through interpretable attention maps. Our central contribution is ``Holographic Transfer", a zero-shot size-extrapolation protocol with rapid alignment: a model trained on $8 \times 8$ systems is directly projected onto larger $10 \times 10$ lattices via continuous positional-embedding interpolation and head re-initialization, achieving high-fidelity initialization and rapid convergence. This zero-shot protocol yields an energy of $E/N = \mathbf{-0.49782(3)}$, statistically consistent with the variational state of the art while requiring no from-scratch training on the target lattice. Our results establish generative attention as a scalable paradigm for transferable quantum simulation.