사전 학습된 언어 모델을 위한 편향 완화 기법의 효과성에 대한 실증적 조사

An Empirical Survey of the Effectiveness of Debiasing Techniques for Pre-trained Language Models

최근 연구들은 사전 학습된 언어 모델이 학습에 사용된 방대한 텍스트로부터 사회적 편향을 습득한다는 것을 보여주었다. 이로 인해 이러한 편향을 완화하는 기술 개발에 대한 관심이 높아졌다. 본 연구에서는 최근 제안된 다섯 가지 편향 완화 기법인 Counterfactual Data Augmentation (CDA), Dropout, Iterative Nullspace Projection, Self-Debias, SentenceDebias에 대해 실증적 조사를 수행한다. 우리는 세 가지 내재적 편향 벤치마크를 사용하여 각 기법의 효과를 정량화하는 한편, 이러한 기법들이 모델의 언어 모델링 능력과 다운스트림 NLU 작업 성능에 미치는 영향도 측정한다. 실험 결과, 우리는 다음과 같은 사실을 발견했다: (1) Self-Debias가 모든 편향 벤치마크에서 점수를 향상시키며 가장 강력한 편향 완화 기법으로 나타났다; (2) 현재의 편향 완화 기법들은 성별 이외의 편향을 완화할 때 성능의 일관성이 떨어진다; (3) 편향 완화 전략을 사용하여 StereoSet 및 CrowS-Pairs와 같은 편향 벤치마크에서 성능을 개선하는 것은 종종 언어 모델링 능력의 저하를 수반하므로, 편향 완화가 실제로 효과적이었는지 판단하기 어렵게 만든다.

Recent work has shown pre-trained language models capture social biases from the large amounts of text they are trained on. This has attracted attention to developing techniques that mitigate such biases. In this work, we perform an empirical survey of five recently proposed bias mitigation techniques: Counterfactual Data Augmentation (CDA), Dropout, Iterative Nullspace Projection, Self-Debias, and SentenceDebias. We quantify the effectiveness of each technique using three intrinsic bias benchmarks while also measuring the impact of these techniques on a model's language modeling ability, as well as its performance on downstream NLU tasks. We experimentally find that: (1) Self-Debias is the strongest debiasing technique, obtaining improved scores on all bias benchmarks; (2) Current debiasing techniques perform less consistently when mitigating non-gender biases; And (3) improvements on bias benchmarks such as StereoSet and CrowS-Pairs by using debiasing strategies are often accompanied by a decrease in language modeling ability, making it difficult to determine whether the bias mitigation was effective.