균일 분포에서 학습된 그래프 사전으로: 구조 발견을 위한 디퓨전

From Uniform to Learned Graph Priors: Diffusion for Structure Discovery

신경 관계 추론(NRI) 방법은 변분 추론을 통해 이산적인 잠재적 연결선으로부터 상호 작용 그래프를 발견합니다. 그러나 이러한 방법들은 일반적으로 단순화되고, 요인화된 그래프 사전 모델에 의존하며, 이는 일반적으로 균일 분포에 가까워 연결선을 독립적인 개체로 취급합니다. 이러한 체계적인 불일치는 실제 시스템과 일치하지 않으며, 분산되고 결정력이 부족한 연결선 확률 분포를 야기하여 구조 발견의 신뢰성을 제한합니다. 이를 해결하기 위해, 우리는 잠재 그래프 분포를 생성하는 대신 보정하는 데 사용되는 디퓨전 기반의 적응형 사전인 extit{Diff-prior}를 제안합니다. 우리의 핵심 아이디어는 사전 통합을 학습 가능한 노이즈 제거 스타일의 보정으로 재구성하여, 흩어져 있는 불확실한 연결선 확률 분포를 더 신뢰할 수 있는 전체 구조로 구성하는 것입니다. Diff-prior는 추론 과정에서 연결선 확률 분포에 대한 적응형 구조 사전을 학습하며, 이를 통해 잠재적인 기본 구조에 더욱 가까운 분포를 유도합니다. Diff-prior는 구조 샘플링 전에 작동하며, 인코더의 연결선 분포에 직접적으로 노이즈 제거 보정기를 적용하여 구조 변수에 대한 일반적인 훈련 패러다임을 제공합니다. 표준 벤치마크에서의 실험 결과는 우리의 프레임워크를 검증했으며, Diff-prior가 여러 NRI 계열 아키텍처에서 구조 추론 성능을 향상시키고 더 결정력 있는 연결선 확률 분포를 생성한다는 것을 보여주었습니다. 코드는 https://github.com/Hardy158118/Diffprior 에서 확인할 수 있습니다.

Neural relational inference (NRI) methods discover interaction graphs from trajectories through variational reasoning on discrete potential edges. However, these methods typically rely on oversimplified, factorized graph priors. Such priors, typically nearing uniform distributions, treat edges as independent entities. This systemic misalignment does not match the real-world systems and yields diffuse and indecisive edge posteriors limiting the reliability of structural discovery. To address this, we propose \textit{Diff-prior}, a diffusion-parameterized adaptive prior used to calibrate latent graph distribution rather than generate graphs. Our core insight is to reframe prior integration as a learnable denoising-style calibration that organizes scattered, uncertain edge posteriors into a more reliable overall structure which can be trained by the diffusion model. Diff-prior learns an adaptive structure prior that performs structured calibration on the edge posteriors during inference, guiding it towards a distribution closer to the underlying structure. The diff-prior operates before structural sampling and acts as a denoising calibrator directly on the encoder edge distribution, which provides a generic training paradigm over structured variables. Experiments on standard benchmarks validated our framework, and the results indicate that Diff-prior improves the performance of structure inference and generates more decisive edge posteriors across multiple NRI-family architectures. The code is available on https://github.com/Hardy158118/Diffprior.