I candidati di lavoro bramano fortemente la trasparenza nell’uso dell’ADM nel reclutamento, volendo sapere quando e come vengono utilizzati il processo decisionale automatico, quali dati vengono elaborati e come vengono prese le decisioni.
Questi risultati provengono da nuove ricerche dell’Ufficio del Commissario per comprendere le percezioni pubbliche nei confronti dell’ADM nel reclutamento, rilasciate ieri insieme alla strategia dell’ICO sull’uso di AI e Biometrics.
Poiché i processi di assunzione utilizzano sempre più AL per proiettare le lettere CV e delle applicazioni, condurre interviste iniziali e valutare l’idoneità dei candidati, sono state sollevate preoccupazioni su equità, trasparenza e responsabilità.
L’ICO ha dichiarato di essere particolarmente interessato a capire come queste tecnologie influiscono sugli individui, in particolare i gruppi emarginati che potrebbero essere influenzati in modo sproporzionato da algoritmi distorti.
Ha commissionato la realtà rivelatrice di raccogliere prove qualitative di come le persone sperimentano l’ADM nel reclutamento e gli effetti che ritengono che abbia avuto su di loro. La ricerca ha esplorato le reazioni a diversi tipi di strumenti ADM, indipendentemente dal fatto che li avessero vissuti direttamente o meno.
Hanno anche acquisito prove delle aspettative delle persone sull’uso dell’ADM, in particolare in relazione all’articolo 22 delle norme generali sulla protezione dei dati, che salvaguardano i diritti delle persone in relazione all’AMM.
Lo studio ha coinvolto focus group remoti con 33 persone in cerca di lavoro, divise in quattro gruppi per rappresentare una serie di esperienze e atteggiamenti di lavoro.
Mentre molte delle persone in cerca di lavoro hanno riconosciuto il crescente uso di ADM, generalmente avevano una comprensione limitata di come funzionava, spesso percependolo in modo binario di processo decisionale umano o completamente automatizzato.
Alcuni hanno visto potenziali benefici nel filtro in fase iniziale, ma c’erano preoccupazioni significative sull’uso dell’ADM per le valutazioni e il processo decisionale finale. Tutti i partecipanti erano fortemente negativi riguardo al processo decisionale completamente automatico nel reclutamento.
La maggior parte ha espresso preoccupazione per la natura confusa delle valutazioni, in cui i test sono stati percepiti come illogici e hanno espresso frustrazione per la progettazione di compiti di reclutamento, come i giochi.
Un membro del gruppo laureato ha dichiarato: “Ricordo che uno dei giochi che ho ottenuto era che dovevi pompare un palloncino. Avevi circa due minuti e hai pompato palloncini costantemente facendo clic sul mouse e avresti scoppiato in diversi punti …
“Il punto era provare a pomparli il più possibile, quindi lasciarli andare e continuare a scoppiare … per un ruolo laureato, ho pensato, è davvero … una misurazione di abilità?”
Alcuni partecipanti credevano di aver sperimentato strumenti ADM, ma sentivano che il processo complessivo mancava di trasparenza. “La velocità sul tempo di consegna di una risposta ed è un rifiuto automatizzato mi fa pensare che sia ADM”, ha detto un partecipante.
“Ottenere e -mail di rifiuto identico in molti lavori diversi è un segno (che potrebbe essere ADM)”, ha detto un altro.
Tuttavia, mentre i partecipanti pensavano che l’ADM fosse ampiamente utilizzato, nessuno poteva ricordare di aver visto informazioni al riguardo mentre faceva applicazioni. Molti credevano che vi fosse una mancanza di trasparenza da parte dei datori di lavoro.
“Sono fiducioso che venga utilizzato, ma non ho visto alcuna trasparenza”, ha detto uno dei laureati.
I ricercatori hanno messo in evidenza le aree chiave di preoccupazione e hanno sottolineato la necessità di un’attenta considerazione delle implicazioni etiche e delle migliori pratiche nella progettazione e implementazione dei sistemi ADM:
- La trasparenza è fondamentale: I partecipanti hanno sottolineato la necessità di trasparenza in merito all’uso di ADM nei processi di reclutamento.
- La supervisione umana è essenziale: Nonostante il riconoscimento di potenziali efficienze, i partecipanti credevano che il coinvolgimento umano fosse rimasto cruciale per garantire l’equità, affrontare i pregiudizi e fornire feedback individuali.
- Le preoccupazioni riguardanti la distorsione devono essere affrontate: Il potenziale per perpetuare o amplificare i pregiudizi sociali esistenti era una delle principali preoccupazioni. C’era una forte aspettativa che i sistemi ADM fossero giusti, imparziali e non discriminatori.
- L’esperienza del candidato è importante: Le esperienze dei partecipanti nel processo di assunzione hanno influenzato significativamente le loro percezioni dei sistemi ADM. Problemi, come la mancanza di comunicazione, il vago feedback e i processi impersonali hanno influito negativamente sugli atteggiamenti nei confronti dell’ADM.
- L’adeguatezza di ADM è contestuale: I partecipanti hanno avuto opinioni contrastanti sull’adeguatezza dell’ADM in diverse fasi del reclutamento. Mentre l’ADM “Light-Touch” per il filtro iniziale era considerato accettabile, c’erano preoccupazioni significative su sistemi più completi o completamente automatizzati.
Nel corso dell’anno successivo, l’ICO ha dichiarato che consulterà un aggiornamento della sua ADM e la guida alla profilazione e svilupperà un codice di pratica legale su AI e ADM.