확률 회로를 이용한 표 데이터 생성에 대한 심층적 고찰

A Sobering Look at Tabular Data Generation via Probabilistic Circuits

표 데이터는 텍스트 및 이미지에 비해 생성하기 어렵습니다. 이는 표 데이터가 다양한 특징을 가지고 있으며, 샘플 크기가 훨씬 작기 때문입니다. 현재 표 데이터 생성 분야에서 확산 모델(diffusion-based models)이 가장 뛰어난 성능(state-of-the-art, SotA)을 보이는 모델 클래스이며, 일반적으로 사용되는 벤치마크에서 거의 완벽한 성능을 보입니다. 본 논문에서는 표 데이터 생성 분야의 발전 상황에 대한 기존의 인식을 검토합니다. 먼저, 생성된 데이터의 충실도를 평가하는 현재 방식의 한계를 지적하고, 대안적인 방식을 제안합니다. 다음으로, 심층 확률 회로(deep probabilistic circuits, PCs) 형태의 계층적 혼합 모델이라는 간단한 기준 모델을 재검토합니다. 이 모델은 현재 최고 성능 모델보다 훨씬 저렴한 비용으로 경쟁력 있는 또는 더 나은 성능을 제공합니다. PCs는 의사 결정 트리(decision forests)의 생성 모델로서, 다양한 데이터를 자연스럽게 처리할 수 있으며, 추론 및 확률적 생성을 용이하게 합니다. 마지막으로, 엄격한 실증 분석을 통해 현재 최고 성능 모델의 발전이 정체된 것처럼 보이는 현상은 부적절한 지표 사용에 주로 기인한다는 것을 보여줍니다. 따라서, 현실적인 표 데이터를 생성하는 데는 아직 많은 노력이 필요하다는 것을 강조합니다. 관련 코드는 https://github.com/april-tools/tabpc 에서 확인할 수 있습니다.

Tabular data is more challenging to generate than text and images, due to its heterogeneous features and much lower sample sizes. On this task, diffusion-based models are the current state-of-the-art (SotA) model class, achieving almost perfect performance on commonly used benchmarks. In this paper, we question the perception of progress for tabular data generation. First, we highlight the limitations of current protocols to evaluate the fidelity of generated data, and advocate for alternative ones. Next, we revisit a simple baseline -- hierarchical mixture models in the form of deep probabilistic circuits (PCs) -- which delivers competitive or superior performance to SotA models for a fraction of the cost. PCs are the generative counterpart of decision forests, and as such can natively handle heterogeneous data as well as deliver tractable probabilistic generation and inference. Finally, in a rigorous empirical analysis we show that the apparent saturation of progress for SotA models is largely due to the use of inadequate metrics. As such, we highlight that there is still much to be done to generate realistic tabular data. Code available at https://github.com/april-tools/tabpc.