금융 언어 모델의 효율적인 편향 감지를 위한 연구

Towards a more efficient bias detection in financial language models

금융 언어 모델의 편향은 실제 응용 분야에서의 활용을 저해하는 주요 요인입니다. 이러한 편향을 감지하는 것은 어려운데, 이는 의사 결정과 직접적인 관련이 없는 속성(예: 인구 통계학적 속성)을 변경했을 때 예측이 달라지는 입력 데이터를 식별해야 하기 때문입니다. 기존 접근 방식은 일반적으로 대규모 데이터 코퍼스에 대한 광범위한 변형과 쌍별 예측 분석에 의존하며, 이는 효과적이지만 계산 비용이 많이 들며, 특히 대규모 언어 모델의 경우 지속적인 재학습 및 배포 과정에서 비현실적일 수 있습니다. 이러한 비용을 줄이기 위해, 우리는 다섯 개의 금융 언어 모델에서 편향을 대규모로 연구하고, 보호된 속성에 따른 모델 간 편향 경향의 유사성을 조사하며, 모델 간 가이드 편향 감지를 통해 편향을 드러내는 입력 데이터를 더 일찍 식별하는 방법을 모색했습니다. 본 연구에서는 약 17,000개의 실제 금융 뉴스 문장을 사용하고, 이를 변형하여 125,000개 이상의 원본-변형 쌍을 생성했습니다. 결과적으로, 모든 모델이 원자적(0.58% - 6.05%) 및 교차적(0.75% - 5.97%) 설정 모두에서 편향을 보이는 것으로 나타났습니다. 또한, 모델 간에 편향을 드러내는 입력 데이터에서 일관된 패턴이 관찰되어 편향 감지 과정에서 상당한 재사용과 비용 절감을 가능하게 합니다. 예를 들어, DistilRoBERTa의 출력을 기반으로 파생된 속성을 활용하여 FinMA의 편향된 동작의 최대 73%를 전체 입력 쌍의 20% 만으로도 식별할 수 있었습니다.

Bias in financial language models constitutes a major obstacle to their adoption in real-world applications. Detecting such bias is challenging, as it requires identifying inputs whose predictions change when varying properties unrelated to the decision, such as demographic attributes. Existing approaches typically rely on exhaustive mutation and pairwise prediction analysis over large corpora, which is effective but computationally expensive-particularly for large language models and can become impractical in continuous retraining and releasing processes. Aiming at reducing this cost, we conduct a large-scale study of bias in five financial language models, examining similarities in their bias tendencies across protected attributes and exploring cross-model-guided bias detection to identify bias-revealing inputs earlier. Our study uses approximately 17k real financial news sentences, mutated to construct over 125k original-mutant pairs. Results show that all models exhibit bias under both atomic (0.58\%-6.05\%) and intersectional (0.75\%-5.97\%) settings. Moreover, we observe consistent patterns in bias-revealing inputs across models, enabling substantial reuse and cost reduction in bias detection. For example, up to 73\% of FinMA's biased behaviours can be uncovered using only 20\% of the input pairs when guided by properties derived from DistilRoBERTa outputs.