FD$^2$: 미세 분류 데이터 증류를 위한 특화된 프레임워크

FD$^2$: A Dedicated Framework for Fine-Grained Dataset Distillation

데이터 증류(DD)는 대규모 학습 데이터를 작은 합성 데이터 세트로 압축하여 저장 공간과 학습 비용을 줄이며, 일반적인 벤치마크에서 뛰어난 성능을 보여줍니다. 분리된 데이터 증류(Decoupled DD)는 사전 학습, 샘플 증류 및 소프트 라벨 생성을 분리하여 효율성을 더욱 향상시킵니다. 그러나 기존의 분리된 방법은 대부분 거칠은 클래스 라벨 지도에 의존하며, 각 클래스 내의 샘플을 거의 동일한 방식으로 최적화합니다. 미세 분류 데이터 세트의 경우, 이는 종종 (i) 클래스 내의 큰 변동성을 유지하면서 클래스 간의 미묘한 차이를 나타내거나 (ii) 동일 클래스 내의 샘플이 지나치게 유사해져 지역적인 구별 특징을 제한하고 인식 성능을 저하시키는 증류된 샘플을 생성합니다. 위와 같은 문제점을 해결하기 위해, 미세 분류 데이터 증류를 위한 특화된 프레임워크인 FD$^{2}$를 제안합니다. FD$^{2}$는 구별적인 영역을 식별하고 증류를 위한 미세한 표현을 구성합니다. 사전 학습 단계에서는 반사실적 어텐션 학습을 통해 구별적인 표현을 집계하여 클래스 프로토타입을 업데이트합니다. 증류 단계에서는 미세한 특징 제약 조건을 사용하여 각 샘플을 해당 클래스 프로토타입에 맞추고 다른 샘플로부터 멀어지게 하며, 유사성 제약 조건을 통해 동일 클래스 내의 샘플 간 어텐션을 다양화합니다. 다양한 미세 분류 및 일반 데이터 세트에 대한 실험 결과, FD$^{2}$가 분리된 데이터 증류와 원활하게 통합되어 대부분의 환경에서 성능을 향상시키며, 높은 일반화 성능을 나타냄을 보여줍니다.

Dataset distillation (DD) compresses a large training set into a small synthetic set, reducing storage and training cost, and has shown strong results on general benchmarks. Decoupled DD further improves efficiency by splitting the pipeline into pretraining, sample distillation, and soft-label generation. However, existing decoupled methods largely rely on coarse class-label supervision and optimize samples within each class in a nearly identical manner. On fine-grained datasets, this often yields distilled samples that (i) retain large intra-class variation with subtle inter-class differences and (ii) become overly similar within the same class, limiting localized discriminative cues and hurting recognition. To solve the above-mentioned problems, we propose FD$^{2}$, a dedicated framework for Fine-grained Dataset Distillation. FD$^{2}$ localizes discriminative regions and constructs fine-grained representations for distillation. During pretraining, counterfactual attention learning aggregates discriminative representations to update class prototypes. During distillation, a fine-grained characteristic constraint aligns each sample with its class prototype while repelling others, and a similarity constraint diversifies attention across same-class samples. Experiments on multiple fine-grained and general datasets show that FD$^{2}$ integrates seamlessly with decoupled DD and improves performance in most settings, indicating strong transferability.