Breve immersione:

  • Uno studio su 4 milioni di domande di lavoro esaminate da un algoritmo di assunzione ha trovato prove di “chiare disparità razziali” nei risultati dei candidaticon il 26% delle domande presentate da candidati neri e il 15% di quelle presentate da candidati asiatici indirizzate a posizioni che hanno avuto un impatto negativo su di loro, hanno detto giovedì i ricercatori dell’Università di Stanford.
  • Le candidature sono state selezionate attraverso un algoritmo creato dal fornitore Pymetrics tra 156 datori di lavoro e 11 settori. I ricercatori hanno utilizzato un algoritmo per tutte le posizioni al fine di studiare gli effetti di “monocultura algoritmica”, un termine che secondo loro riflette lo stato attuale del settore delle assunzioni, in cui molti datori di lavoro selezionano i candidati utilizzando gli stessi pochi algoritmi forniti dai fornitori.
  • L’algoritmo Pymetrics ha anche prodotto un tasso di rifiuto sistemico – ovvero il tasso con cui i candidati vengono rifiutati da più lavori – pari al 10% di tutti i candidati che hanno presentato almeno quattro candidature. Questo risultato “supera significativamente il tasso di riferimento previsto in base a decisioni indipendenti”, hanno affermato i ricercatori.

Informazioni sull’immersione:

La tendenza dei datori di lavoro a utilizzare lo stesso algoritmo di assunzione o uno qualsiasi di un piccolo gruppo di algoritmi progettati in modo simile utilizzando dati simili produce il tipo di monocultura algoritmica delineata nello studio, hanno affermato i ricercatori.

“Abbiamo ipotizzato in lavori precedenti che se molte aziende si affidassero allo stesso fornitore di intelligenza artificiale per selezionare i candidati per un lavoro, ciò potrebbe impedire ad alcuni candidati di ottenere qualsiasi colloquio”, ha detto Kathleen Creel, assistente professore alla Northeastern University e coautrice dello studio, in un articolo che accompagna la pubblicazione. “Ma questo studio è stato il primo in cui siamo riusciti a dimostrare questo effetto nei dati reali sulle assunzioni”.

In particolare, lo studio ha trovato prove che molti dei lavori a cui i candidati avevano fatto domanda non erano conformi la regola dei “quattro quinti”. descritto nelle linee guida federali statunitensi sull’applicazione delle pari opportunità di lavoro. In base a questa regola, le agenzie federali EEO ritengono che il tasso di selezione per un dato lavoro abbia un impatto diverso rispetto a un particolare gruppo demografico se il tasso è inferiore ai quattro quinti di quello del gruppo con il tasso di selezione più alto.

Tra le posizioni misurate nello studio, il 30% dei candidati neri ha fatto domanda per almeno una posizione che ha dimostrato un impatto negativo nei loro confronti, come definito dalla regola dei quattro quinti.

Tuttavia, i candidati asiatici hanno riscontrato la maggiore “carenza” di gruppi di candidati nello studio, nota anche come differenza tra il numero di candidati effettivi selezionati e il numero che ci si aspetterebbe se i candidati asiatici fossero stati selezionati allo stesso ritmo del gruppo razziale più selezionato per ciascuna posizione.

Un aspetto fondamentale riguardava la metodologia dello studio: mentre ricerche passate sulla discriminazione algoritmica nelle assunzioni analizzavano i dati di selezione aggregati tra tutte le posizioni selezionate dall’algoritmo di un fornitore, questo studio ha disaggregato e analizzato ciascuna posizione separatamente. Ciò è degno di nota in quanto il fornitore, Pymetrics, aveva precedentemente pubblicato audit aggregati per dimostrare che i suoi strumenti non presentavano errori misurabili, ha affermato Sarah Bana, coautrice e assistente professore alla Chapman University.

“In questo senso sono rimasto sorpreso perché pensavo che i loro algoritmi sarebbero stati un esempio di buona pratica”, ha detto Bana. “Quando leggi che qualcosa che stai acquistando è stato sottoposto a revisione, tendi a prendere quella scoperta per valore nominale – e probabilmente è parte di ciò che sta succedendo.”

Bana ha affermato che i datori di lavoro che utilizzano algoritmi di assunzione dovrebbero scoprire chi i loro algoritmi stanno selezionando per ciascuna posizione applicabile. “Ciò significa che devi lasciare, idealmente, un sottoinsieme casuale di candidati attraverso quella prima fase e vedere come se la passano”, ha aggiunto. “Probabilmente vale la pena farlo regolarmente perché il tuo algoritmo probabilmente non cambierà alla velocità del tuo lavoro.

Lo studio arriva in un momento in cui la stragrande maggioranza dei datori di lavoro – oltre il 90%, secondo una stima del World Economic Forum del 2025 – utilizza qualche forma di automazione per filtrare o classificare i candidati al lavoro. Le preoccupazioni sulla discriminazione da parte degli strumenti di assunzione automatizzati sono state evidenziate in un articolo battaglia legale in corso tra il fornitore Workday e un gruppo di candidati al lavoro che sostenevano che gli strumenti dell’azienda li discriminassero.

I dipartimenti delle risorse umane possono adottare misure per prevenire bias algoritmici nell’ambito dei processi di assunzione, un avvocato dal lato gestionale ha scritto in un articolo di opinione del 2024 per HR Dive. Al contrario, un documento di lavoro del 2020 dei ricercatori del MIT lo ha scoperto potrebbero essere progettati algoritmi di assunzione in modo tale da migliorare sia la diversità che la qualità dei candidati al lavoro.