L’Unione americana per le libertà civili e l’ACLU della California settentrionale martedì ha presentato una denuncia al Dipartimento per i diritti civili della California, sostenendo che Criteria Corp., una società di valutazione delle assunzioni e dell’occupazione, vende un prodotto che potrebbe escludere in modo sproporzionato i candidati con autismoin violazione del Fair Employment and Housing Act della California.
Il prodotto in questione, Emotify, valuta i candidati per l’intelligenza emotiva attraverso giochi di abbinamento e previsione, nonché un gioco di scenari di risoluzione dei problemi emotivi, secondo il sito web dell’azienda.
Lo sostiene l’ACLU nella sua denuncia che questa valutazione “è così parallela agli strumenti diagnostici clinici per l’autismo da costituire un’indagine relativa alla disabilità o un esame medico o psicologico, che è proibito dalla legge statale prima che venga fatta un’offerta di lavoro”. Le aree in cui gli strumenti differiscono, secondo l’ACLU – inclusa la velocità con cui hanno luogo le valutazioni – “non fanno altro che aumentare il rischio di impatti disparati”.
Emotify inoltre non fornisce ai candidati informazioni sufficienti per decidere se avrebbero bisogno di un alloggio o di una valutazione alternativa, in violazione della legge statale, sostiene la denuncia.
Criteria Corp. non ha risposto a una richiesta di commento da parte del momento della stampa.
Sebbene la denuncia dell’ACLU si concentri principalmente su Emotify, fa menzione di altre offerte dell’azienda che potrebbero “sollevare preoccupazioni sulla discriminazione basata su disabilità, razza e sesso che meritano ulteriori indagini”.
All’inizio della creazione di Cognify, ad esempio – la sua valutazione dell’attitudine cognitiva – i suoi sviluppatori hanno segnalato “disparità statisticamente significative e praticamente significative basate sulla razza (per i valutatori neri rispetto a quelli bianchi) e sul genere (per i valutatori donne rispetto a quelli maschi)”, ha affermato l’ACLU.
“Sia i venditori che i datori di lavoro hanno l’obbligo legale di esaminare attentamente qualsiasi valutazione per garantire che rispetti le leggi antidiscriminazione”, ha affermato in una nota Olga Akselrod, consulente senior del Programma di giustizia razziale dell’ACLU.
Negli ultimi anni gli strumenti di assunzione basati sull’intelligenza artificiale sono stati criticati negli ultimi anni, con diversi gradi di successo nei tribunali.
A Sirius XM è stato recentemente concesso un giudizio sommario in un caso in cui il querelante ha accusato la società di utilizzare un software per le assunzioni che escludeva in modo sproporzionato i candidati afroamericani. In quel caso, la corte ha affermato che il querelante non aveva dimostrato come funzionasse il datore di lavoro il presunto utilizzo dell’intelligenza artificiale lo avrebbe discriminato.
Ma uno dei nomi più grandi nel settore, Workday, non è stato in grado di scuotere l’esame di un caso in corso se i suoi strumenti di screening violassero la legge della California. Questo caso, come la denuncia dell’ACLU, coinvolge la FEHA.