Tvrtke koje se smatraju najmanje pravno odgovornima za algoritamsku diskriminaciju, studija

Tvrtke koje se smatraju najmanje pravno odgovornima za algoritamsku diskriminaciju, studija

Tvrtke i vlade koriste algoritme za poboljšanje donošenja odluka o zapošljavanju, zdravstvenoj skrbi i uvjetnom otpustu. Algoritmi imaju potencijal nadjačati ljudsku pristranost u donošenju odluka, ali često dolaze do diskriminirajućih zaključaka.

Nova studija Američke psihološke udruge ispitala je jesu li ljudi manje ogorčeni algoritamskom diskriminacijom nego ljudskom diskriminacijom. Istraživanja sugeriraju da su ljudi manje moralno ogorčeni kada se rodna diskriminacija dogodi zbog algoritma, a ne zbog izravnog ljudskog angažmana.

Oito estudos testam essa hipótese de déficit de indignação algorítmica no contexto da discriminação de gênero nas práticas de contratação em diversos grupos participantes. Para explicar suas descobertas de oito ensaios com um total combinado de mais de 3.900 pessoas dos Estados Unidos, Canadá e Noruega, os znanstvenici do estudo criaram o termo “déficit de indignação algorítmica”. com vários cenários sobre discriminação de gênero nas decisões de contratação causadas por algoritmos e humanos, os participantes ficaram menos indignados moralmente com aqueles causados ​​por algoritmos. Os participantes também acreditavam que as empresas eram menos legalmente responsáveis ​​pela discriminação devido a um algoritmo. “É preocupante que as empresas possam usar algoritmos para se proteger da culpa e do escrutínio público sobre práticas discriminatórias. As descobertas podem ter implicações mais amplas e afetar os esforços para combater a discriminação.”

“Ljudi vide ljudska bića koja diskriminiraju kao motivirana predrasudama, poput rasizma ili seksizma, ali vide algoritme koji diskriminiraju kao motivirane podacima, pa su manje moralno ogorčeni. Moralni bijes je važan društveni mehanizam za motiviranje ljudi da se nose s nepravdama. Ako su ljudi manje moralno ogorčeni zbog diskriminacije, možda će biti manje motivirani učiniti nešto po tom pitanju.”

Neki od eksperimenata koristili su scenarij temeljen na primjeru iz stvarnog života navodne Amazonove rodne diskriminacije temeljene na algoritmu koji je kažnjavao žene koje traže posao. Iako se studija usredotočila na rodnu diskriminaciju, usporedivi rezultati dobiveni su kada je jedno od osam ispitivanja ponovljeno kako bi se ispitala rasna i dobna pristranost.

Čini se da znanje o umjetnoj inteligenciji nije učinilo razliku. U eksperimentu s više od 150 tehnoloških radnika u Norveškoj, sudionici koji su prijavili više izvrsnog poznavanja umjetne inteligencije bili su još manje ogorčeni rodnom diskriminacijom uzrokovanom algoritmima.

Os znanstvenici descobriram que, à medida que as pessoas aprendem mais sobre um algoritmo específico, pode mudar como eles se sentem. Em outro estudo, os participantes expressaram maior indignação quando foi revelado que programadores homens em uma empresa com histórico de sexismo desenvolveram um algoritmo de contratação que resultou em discriminação de gênero.

Bigman je rekao, “Programeri bi trebali biti svjesni mogućnosti nenamjerne diskriminacije pri dizajniranju novih algoritama. Javne obrazovne kampanje također mogu naglasiti da diskriminacija uzrokovana algoritmima može biti rezultat postojećih nejednakosti.”

Referenca časopisa:

    Yochanan E. Bigman, Desman Wilson i dr. Algoritamska diskriminacija uzrokuje manje moralnog bijesa od ljudske diskriminacije. DOI: 10.1037/xge0001250

Povezani postovi

Ostavite komentar

pogreška: