AI-drevne jobbrekrutteringsverktøy kan ikke forbedre ansettelsesmangfoldet, hevder eksperter

Topline

Jobbrekrutteringsverktøy som hevder å bruke kunstig intelligens for å unngå kjønns- og rasemessige skjevheter kan ikke forbedre mangfoldet i ansettelse, og kan faktisk opprettholde disse fordommene, hevdet forskere ved University of Cambridge søndag, som castet programmene – som har fått kritikk tidligere – som en måte å bruke teknologi for å tilby en rask løsning for et dypere problem.

Nøkkelord

I en artikkel utgitt av Filosofi og teknologi, så forskere på påstander fra flere selskaper som tilbyr AI-drevne rekrutteringsverktøy, hvorav mange hevder å eliminere skjevheter og fremme mangfold ved å skjule navn, kjønn og andre identifikatorer til kandidater, og noen av dem rangerer kandidater basert på CV-skanninger, nettbaserte vurderinger og analyse av søkernes tale og ansiktsuttrykk.

Forskerne – to professorer ved University of Cambridges senter for kjønnsstudier – hevdet at disse verktøyene faktisk kan fremme ensartethet i ansettelse fordi de reproduserer kulturelle skjevheter til den "ideelle kandidaten", som historisk sett har vært hvite eller europeiske menn.

Verktøyene kan heller ikke forbedre mangfoldet fordi de er basert på tidligere bedriftsdata og dermed kan fremme kandidater som ligner mest på nåværende ansatte.

Det er "liten ansvarlighet for hvordan disse produktene bygges eller testes," sa Eleanor Drage, en studiemedforfatter og forsker ved University of Cambridge Center for Gender Studies, i en uttalelse, og la til at teknologien kan tjene som en "farlig" kilde til "feilinformasjon om hvordan rekruttering kan "forutsettes" og gjøres mer rettferdig."

Avgjørende sitat

«Ved å hevde at rasisme, sexisme og andre former for diskriminering kan fjernes fra ansettelsesprosessen ved hjelp av kunstig intelligens, reduserer disse selskapene rase og kjønn ned til ubetydelige datapunkter, snarere enn maktsystemer som former hvordan vi beveger oss gjennom verden, ", sa Drage i en uttalelse.

Tangent

Amazon kunngjorde det i 2018 stoppe ved å bruke et AI-rekrutteringsverktøy for å gjennomgå jobbsøkeres CV etter at det fant ut at systemet var sterkt diskriminerende mot kvinner. Dette er fordi datamodellene den baserte seg på ble utviklet basert på CV-er som ble sendt inn til selskapet de siste 10 årene, som for det meste kom fra mannlige søkere.

Nøkkelbakgrunn

Organisasjoner har i økende grad henvendt seg til AI for å hjelpe til med å administrere jobbrekruttering. I en 2020 avstemning av mer enn 300 menneskelige ressursledere sitert av forfatterne av søndagens avis, fant konsulentfirmaet Gartner at 86 % av arbeidsgiverne bruker virtuell teknologi i ansettelsespraksisen, en trend som har akselerert siden Covid-19-pandemien tvang mange til å skifte arbeid på nettet. Mens noen selskaper har hevdet at AI kan tilby en mer kostnads- og tidseffektiv ansettelsesprosess, er det noen eksperter ha funnet systemene har en tendens til å fremme – i stedet for å eliminere – rase- og kjønnsorienterte ansettelser ved å kopiere eksisterende fordommer fra den virkelige verden. Flere amerikanske lovgivere har sikte å takle skjevheter i kunstig intelligens-systemer, ettersom teknologien fortsetter å utvikle seg raskt og få lover eksisterer for å regulere den. Det hvite hus ble offentliggjort denne uken en "Blueprint for an AI Bill of Rights", som argumenterer for at algoritmer brukt i ansettelse har blitt funnet å "reflektere og reprodusere eksisterende uønskede ulikheter" eller bygge inn ny "skjevhet og diskriminering." Planen – som ikke er juridisk bindende eller en offisiell myndighetspolicy – ​​oppfordrer selskaper til å sikre at AI ikke diskriminerer eller krenker personvern, og å gjøre brukere oppmerksomme på når teknologien brukes.

Hva skal du se etter?

I en liste over anbefalinger, forfatterne av søndagens Filosofi og teknologi Paper foreslo at selskaper som utvikler AI-teknologier fokuserer på bredere, systematiske ulikheter i stedet for "individualiserte tilfeller av skjevhet." For eksempel foreslår de at programvareutviklere undersøker kategoriene som brukes til å sortere, behandle og kategorisere kandidater og hvordan disse kategoriene kan fremme diskriminering ved å stole på visse antakelser om kjønn og rase. Forskere hevder også at HR-fagfolk bør prøve å forstå hvordan AI-rekruteringsverktøy fungerer og hva noen av deres potensielle begrensninger er.

Overraskende fakta

Den europeiske union har klassifisert AI-drevet ansettelsesprogramvare og ytelsesevalueringsverktøy som "høy risiko" i sin nye Utkast juridisk rammeverk for AI, noe som betyr at verktøyene vil bli gjenstand for mer gransking og må oppfylle visse samsvarskrav.

Videre Reading

DC ønsker å lede kampen mot AI-bias (Axios)