채용 과정에서의 알고리즘 단일 문화

Algorithmic Monocultures in Hiring

많은 기업들이 동일한 소수의 알고리즘 제공업체에서 개발된 알고리즘을 사용하여 구직자들을 심사합니다. 본 연구는 알고리즘 단일 문화가 동일한 개인 및 인종 집단에게 불이익을 초래할 것이라는 가설을 제시합니다. 동일한 업체에서 개발된 알고리즘으로 심사된 3백만 명의 지원자가 제출한 4백만 건의 지원 데이터를 수집하고 분석했습니다. 분석 결과, 지원자들의 결과에 있어 인종 간에 뚜렷한 차이가 나타났습니다. 아시아인 및 흑인 지원자들이 제출한 모든 지원서 중, 각각 14.74%와 25.87%가 미국 고용 차별 기준에 따라 아시아인 및 흑인에게 불리하게 작용하는 직무에 해당했습니다. 또한, 개인들은 동질적인 결과를 받았습니다. 전체 지원자의 4%는 자신이 신청한 10개의 모든 직무에서 채용 거절 권고를 받았으며, 이는 우연히 발생할 확률보다 높은 수치입니다. 이러한 동질성을 더 잘 이해하기 위해, 본 연구에서는 채용 알고리즘의 결정론적 재현 가능성을 활용하여 지원자들이 모든 직무에 지원했을 경우 받을 결과를 예측했습니다. 분석 결과, 지원자들이 자신의 지원이 인간 심사관에게 고려될 수 있도록 다양한 직무에 지원하는 것이 중요하다는 것을 알 수 있습니다.

Many employers screen job applicants with algorithms built by the same few algorithm vendors. We hypothesize that algorithmic monoculture leads to the same individuals and members of the same racial groups facing rejection. We acquire and analyze a novel dataset of 3 million applicants submitting 4 million applications where all the applications are screened by algorithms built by the same vendor. We find clear racial disparities in applicant outcomes. Of all applications submitted by Asian and Black applicants, 14.74% and 25.87% are submitted to positions that adversely impact Asian and Black applicants, respectively, according to U.S. employment discrimination standards. Individuals also receive homogeneous outcomes: 4% of all applicants who apply to 10 positions are recommended for rejection from all positions, a rate higher than expected by chance. To better understand this homogeneity, we leverage the deterministic replicability of hiring algorithms to generate the outcomes applicants would have received if they applied to all positions. We show that applicants would need to apply widely in order to ensure their applications are considered by a human