Gênero, raça e preconceito interseccional na triagem de currículos por meio da recuperação do modelo de linguagem / AIES2024

Gênero, raça e preconceito interseccional na triagem de currículos por meio da recuperação do modelo de linguagem

Neste trabalho, investigamos as possibilidades de usar LLMs em um ambiente de triagem de currículos por meio de uma estrutura de recuperação de documentos que simula a seleção de candidatos a emprego. Usando essa estrutura, realizamos um estudo de auditoria de currículos para determinar se uma seleção de modelos MassiveText Embedding (MTE) é tendenciosa em cenários de triagem de currículos. Simulamos isso para nove ocupações, usando uma coleção de mais de 500 currículos disponíveis publicamente e 500 descrições de cargos. Descobrimos que os MTEs são tendenciosos, favorecendo significativamente nomes associados a brancos em 85,1% dos casos e nomes associados a mulheres em apenas 11,1% dos casos, com a minoria dos casos não apresentando diferenças estatisticamente significativas. Análises posteriores mostram que os homens negros são desfavorecidos em até 100% dos casos, replicando padrões reais de preconceito em ambientes de emprego, e validam três hipóteses de interseccionalidade.

#MediaçãoAlgorítmica #RacismoAlgorítmico #Gênero #Interseccionalidade

Disponível em: https://ojs.aaai.org/index.php/AIES/article/view/31748/33915