PTL-Diffusion: 주기적 종단 법칙을 갖는 다양체 인식 확산 모델
PTL-Diffusion: Manifold-Aware Diffusion with Periodic Terminal Laws
표준적인 확산 모델은 일반적으로 생성 과정의 기준 분포로 단일한 시간 불변 가우시안 분포를 사용합니다. 이러한 선택은 분석적으로 편리하고 경험적으로 강력하지만, 저차원 다양체 근처에 집중된 데이터에 대한 명시적인 구조를 제공하지 못하며, 데이터 분포의 서로 다른 영역이 뚜렷한 로컬 기하학적 또는 의미론적 요인과 관련될 수 있습니다. 결과적으로, 역 모델은 거의 모든 정보를 구조화되지 않은 기준 분포로부터 복원해야 합니다. 본 논문에서는 PTL-Diffusion이라는 개념 증명 확산 프레임워크를 제안합니다. 이는 기존의 단일 불변 법칙이 아닌 주기적인 가우시안 종단 법칙의 집합으로 점진적으로 노이즈를 추가하는 과정을 사용합니다. 위상 정보가 역노이징 네트워크에만 영향을 미치고 순방향 과정은 변경되지 않는 조건부 DDPM과 달리, PTL-Diffusion은 위상 구조를 직접 순방향 노이징 동역학에 포함시킵니다. 제안된 구성은 기존의 디노이징 확산 모델과 유사합니다. 주기적으로 힘을 가하는 오르슈타인–울렌벡(Ornstein–Uhlenbeck) 유형의 순방향 과정을 사용하여, 폐쇄형 순차적인 분포를 유도하고, 제한적인 주기적 가우시안 종단 집합 및 명시적인 가우시안 역 사후 분포를 얻을 수 있으며, 이를 통해 표준 노이즈 예측 훈련이 가능합니다. 또한, 위상 조건부 역 동역학을 평균 주기 참조 법칙을 통해 연결하는 불변 평균 정규화 항을 도입했습니다. 토러스(torus) 및 실린더 포인트 클라우드 벤치마크와 올리베티 얼굴 데이터셋에 대한 실험 결과, PTL-Diffusion은 matched DDPM 기준 모델보다 다양체 수준의 분포 일치를 개선하고, 위상 조건부 오류, 특징 공간 공분산 오류 및 최근접 이웃 다양체 거리를 감소시키는 것으로 나타났습니다. 이러한 결과는 구조화된 종단 참조 법칙이 유망한 연구 방향임을 시사하며, 더욱 표현력이 뛰어난 위상 구성 및 대규모 평가를 위한 동기를 부여합니다.
Standard diffusion models typically use a single time-homogeneous Gaussian terminal distribution as the reference law for generation. While this choice is analytically convenient and empirically powerful, it provides little explicit structure for data concentrated near low-dimensional manifolds, where different regions of the data distribution may correspond to distinct local geometric or semantic factors. As a result, the reverse model must recover manifold-level structure almost entirely from an unstructured terminal reference distribution. We propose PTL-Diffusion, a proof-of-concept diffusion framework whose forward noising process converges to a nonconstant periodic family of Gaussian terminal laws rather than to a single invariant law. Unlike a phase-conditioned DDPM, where phase information only enters the denoising network while the forward process remains unchanged, PTL-Diffusion embeds phase structure directly into the forward noising dynamics. The proposed construction remains close to standard denoising diffusion models: for a periodically forced Ornstein--Uhlenbeck-type forward process, we derive closed-form forward marginals, the limiting periodic Gaussian terminal family, and explicit Gaussian reverse posteriors, enabling standard noise-prediction training. We also introduce an invariant-average regularization term coupling the phase-conditioned reverse dynamics through the averaged periodic reference law. Experiments on torus and cylinder point-cloud benchmarks and the Olivetti face dataset show that PTL-Diffusion improves manifold-level distributional matching over matched DDPM baselines, reducing phase-conditioned errors, feature-space covariance errors, and nearest-neighbour manifold distances. These results suggest structured terminal reference laws as a promising direction, while motivating more expressive phase constructions and larger-scale evaluations.
No Analysis Report Yet
This paper hasn't been analyzed by Gemini yet.
Log in to request an AI analysis.