잡음에 잡음을 대체하지 마세요: 라벨 노이즈 학습에서 라벨 교정 및 샘플 재가중화를 위한 이원 소스 신뢰성 평가

Stop Replacing Noise with Noise: Two-Source Reliability Assessment for Label Correction and Sample Reweighting in Label-Noise Learning

개선 기반의 노이즈 라벨 학습은 관측된 라벨과 모델 기반의 유사 타겟을 혼합하여 사용하며, 일반적으로 하나의 샘플별 정확도 점수를 사용하여 두 가지를 모두 제어합니다. 이는 숨겨진 결합 현상을 만듭니다. 즉, 관측된 라벨에 대한 신뢰도가 낮아지면 자동으로 유사 타겟에 대한 신뢰도가 높아집니다. 우리는 이러한 상호 보완성은 때때로 하나의 불안정 신호를 다른 불안정 신호로 대체할 수 있다고 보여줍니다. 왜냐하면 손상된 지도(corrupted supervision)로부터 학습된 유사 타겟은 수정하려는 노이즈를 재현할 수 있기 때문입니다. 우리의 표현 진단 결과는 이러한 불일치를 일관성 있게 설명합니다. 즉, 노이즈가 있는 데이터는 더 깊은 레이어에 더 큰 영향을 미치는 반면, 얕은 관계는 상대적으로 안정적이며 손실 가능성(loss posterior)을 넘어선 정보를 제공합니다. 따라서 우리는 라벨 교정과 샘플 재가중화를 위한 이원 소스 신뢰성 평가 프레임워크인 TRACE를 제안합니다. TRACE는 손실 적합도, 얕은 관계의 안정성 및 예측 일치를 사용하여 관측된 라벨을 평가하고, 모델 신뢰도를 사용하여 유사 타겟을 별도로 평가합니다. TRACE의 소스별 점수는 상호 보완적인 신뢰성을 가정하지 않고 타겟 수정과 지도 강도를 제어합니다. 인공 데이터와 실제 노이즈 데이터 벤치마크에서 TRACE는 기존 개선 방법보다 성능이 향상되었으며, 더욱 신뢰할 수 있는 유사 지도를 제공합니다.

Refurbishment-based noisy-label learning mixes an observed label with a model-derived pseudo target, typically using one sample-wise cleanliness score to control both branches. This creates a hidden coupling: reducing trust in the observed label automatically increases trust in the pseudo target. We show that this complementarity can replace one unreliable signal with another because a pseudo target learned from corrupted supervision may reproduce the noise it is meant to correct. Our representation diagnostics provide a consistent account of this mismatch: noisy supervision redirects deeper layers more strongly, whereas shallower relations remain comparatively stable and provide information beyond the loss posterior. We therefore propose TRACE, a Two-Source Reliability Assessment framework for Label Correction and Sample Reweighting. TRACE assesses the observed label using loss fit, shallow relation stability, and prediction agreement, while separately assessing the pseudo target using model confidence. Its source-specific scores control target correction and supervision strength without assuming complementary reliability. Across synthetic and real-world noisy benchmarks, TRACE improves representative refurbishment baselines and yields more reliable pseudo supervision.