חברות שנחשבות לפחות אחראיות מבחינה משפטית לאפליה אלגוריתמית, מחקר

חברות שנחשבות לפחות אחראיות מבחינה משפטית לאפליה אלגוריתמית, מחקר

Algoritmos estão sendo usados ​​por empresas e governos para aprimorar a tomada de decisões para contratação, assistência médica e liberdade condicional. Os algoritmos têm o potencial de substituir os preconceitos humanos na tomada de decisões, mas frequentemente chegam a conclusões discriminatórias.

Um novo estudo da American Psychological Association examinou se as pessoas ficam menos indignadas com a discriminação algorítmica do que com a discriminação humana . A pesquisa sugere que as pessoas ficam menos indignadas moralmente quando a discriminação de gênero ocorre por causa de um algoritmo em vez de envolvimento humano direto.

Oito estudos testam essa hipótese de déficit de indignação algorítmica no contexto da discriminação de gênero nas práticas de contratação em diversos grupos participantes. Para explicar suas descobertas de oito ensaios com um total combinado de mais de 3.900 pessoas dos Estados Unidos, Canadá e Noruega, os cientistas do estudo criaram o termo “déficit de indignação algorítmica”. com vários cenários sobre discriminação de gênero nas decisões de contratação causadas por algoritmos e humanos, os participantes ficaram menos indignados moralmente com aqueles causados ​​por algoritmos. Os participantes também acreditavam que as empresas eram menos legalmente responsáveis ​​pela discriminação devido a um algoritmo. “É preocupante que as empresas possam usar algoritmos para se proteger da culpa e do escrutínio público sobre práticas discriminatórias. As descobertas podem ter implicações mais amplas e afetar os esforços para combater a discriminação.”

“As pessoas veem os seres humanos que discriminam como motivados por preconceito, como o racismo ou sexismo, mas eles veem algoritmos que discriminam como motivados por dados, então eles ficam menos indignados moralmente. A indignação moral é um importante mecanismo social para motivar as pessoas a lidar com as injustiças. Se as pessoas estão menos indignadas moralmente com a discriminação, elas podem estar menos motivadas a fazer algo a respeito.”

Alguns dos experimentos usaram um cenário baseado em uma vida real exemplo de alegada discriminação de gênero baseada em algoritmos pela Amazon que penalizou candidatas a emprego do sexo feminino. Embora o estudo se concentre na discriminação de gênero, resultados comparáveis ​​foram obtidos quando um dos oito ensaios foi repetido para examinar o preconceito de raça e idade.

O conhecimento sobre inteligência artificial não pareceu fazer diferença. Em um experimento com mais de 150 trabalhadores de tecnologia na Noruega, os participantes que relataram mais conhecimento excelente sobre inteligência artificial ficaram ainda menos indignados com a discriminação de gênero causada por algoritmos.

Os cientistas descobriram que, à medida que as pessoas aprendem mais sobre um algoritmo específico, pode mudar como eles se sentem. Em outro estudo, os participantes expressaram maior indignação quando foi revelado que programadores homens em uma empresa com histórico de sexismo desenvolveram um algoritmo de contratação que resultou em discriminação de gênero.

Bigman disse, “Os programadores devem estar cientes da possibilidade de discriminação não intencional ao projetar novos algoritmos. Campanhas de educação pública também podem enfatizar que a discriminação causada por algoritmos pode ser resultado de desigualdades existentes.”

עיון ביומן:

    Yochanan E. Bigman, Desman Wilson et al. A discriminação algorítmica causa menos indignação moral do que a discriminação humana. DOI: 10.1037/xge0001250

הודעות קשורות

השאר תגובה

שְׁגִיאָה: