Tara Humma è partner di Rimon Law, dove concentra la sua attività su questioni relative al lavoro e all’occupazione.
Le aziende hanno rapidamente incorporato l’intelligenza artificiale nei processi decisionali sul posto di lavoro per paura di essere lasciate indietro. I datori di lavoro utilizzano abitualmente strumenti di intelligenza artificiale per selezionare candidati o curriculum, analizzare colloqui, monitorare la produttività dei dipendenti e prendere decisioni promozionali o disciplinari.
Alcune aziende e leader delle risorse umane presumono che il rischio legale spetti al fornitore di software che ha creato o concesso in licenza gli strumenti, ma in molte situazioni non è così. Proprio come con qualsiasi altro strumento utilizzato dalle aziende, il datore di lavoro può essere responsabile delle decisioni prese con l’assistenza dell’intelligenza artificiale, anche se la tecnologia è stata acquistata o concessa in licenza da un fornitore.
Molti stati stanno aumentando il controllo sulle decisioni occupazionali guidate dall’intelligenza artificiale e possiamo anticipare ulteriori azioni statali in futuro. Ciò è particolarmente vero se si considera la posizione dell’attuale amministrazione sull’applicazione di diverse dichiarazioni di impatto, inclusa la revoca delle linee guida specifiche sull’intelligenza artificiale emesse dalla Commissione per le pari opportunità di lavoro degli Stati Uniti negli anni precedenti.
L’approccio federale
Sotto l’amministrazione Biden, l’EEOC ha pubblicato linee guida relative all’uso dell’intelligenza artificiale da parte dei datori di lavoro nel prendere decisioni sull’occupazione. Tali linee guida hanno messo in guardia i datori di lavoro e sollevato preoccupazioni sulla discriminazione di impatto disparato, sulla discriminazione della disabilità, sulla mancanza di trasparenza nell’uso degli strumenti di intelligenza artificiale, sui dati di formazione distorti e sulla potenziale mancanza di controllo umano. Ha inoltre chiarito che i datori di lavoro potrebbero comunque essere responsabili per la discriminazione avvenuta con strumenti sviluppati e acquistati da terzi, anche senza intenzione discriminatoria.
All’inizio del 2025, l’amministrazione Trump ha emesso un ordine esecutivo che ordinava alle agenzie federali di depriorizzare l’applicazione di impatti disparati e poco dopo l’EEOC ha revocato le sue linee guida sull’intelligenza artificiale.
Sebbene le azioni dell’attuale amministrazione possano segnalare ai datori di lavoro che i rischi legati all’intelligenza artificiale nel contesto della discriminazione non costituiscono più una preoccupazione, non è così. La dottrina della discriminazione a impatto disparato – che si concentra sui risultati, piuttosto che sulle intenzioni – è ancora praticabile secondo i precedenti della corte federale. Né un ordine esecutivo né la rescissione delle linee guida dell’agenzia possono ribaltare anni di precedenti giudiziari.
Azione statale e locale
Oltre a ciò, gli Stati stanno intervenendo attivamente per colmare le lacune lasciate dalla legge federale. L’Illinois ora vieta l’uso dell’intelligenza artificiale che si traduce in una discriminazione sul lavoro basata su caratteristiche protette, anche quando la discriminazione non è intenzionale, e richiede ai datori di lavoro di rivelare quando vengono utilizzati gli strumenti di intelligenza artificiale. La città di New York richiede controlli sui pregiudizi per gli strumenti di intelligenza artificiale utilizzati nelle decisioni sull’assunzione e impone ai datori di lavoro di informare i candidati e i dipendenti del loro utilizzo. Diversi altri stati hanno approvato o proposto leggi simili, codificando diverse protezioni dagli impatti o posizionando barriere specifiche su come i datori di lavoro possono utilizzare l’intelligenza artificiale nelle decisioni relative alle assunzioni e alla forza lavoro.
Pertanto, sebbene l’applicazione dell’EEOC su impatti disparati possa essere ridotta, il rischio di contenzioso è lungi dall’essere eliminato. Le agenzie statali e gli individui possono ancora intentare tali azioni contro i datori di lavoro ai sensi sia della legge statale che di quella federale.
Cosa devono capire i datori di lavoro
Le organizzazioni possono iniziare a utilizzare l’intelligenza artificiale nelle assunzioni o nelle decisioni sulla forza lavoro senza sapere su quali dati si basa il sistema, come è stata addestrata l’intelligenza artificiale, se le caratteristiche protette sono considerate indirettamente, se i risultati creano un impatto negativo o come spiegare il processo decisionale.
Questa mancanza di comprensione crea rischi ed è improbabile che i tribunali diano credito a una difesa che incolpa l’autore o il venditore in caso di reclamo.
I team HR hanno bisogno di un quadro chiaro di dove vengono utilizzati gli strumenti di intelligenza artificiale all’interno dell’organizzazione. Molti datori di lavoro utilizzano strumenti per la selezione dei candidati, i colloqui, la programmazione, il monitoraggio della produttività, la promozione e i processi decisionali disciplinari, a volte senza nemmeno saperlo.
I datori di lavoro dovrebbero anche capire come vengono utilizzati gli strumenti in ciascuno di questi contesti. I manager seguono i risultati suggeriti dall’intelligenza artificiale senza rivederli o sono coinvolte la supervisione e la revisione umane? Affidarsi all’intelligenza artificiale per il processo decisionale senza una sufficiente supervisione umana aumenta il rischio.
Protezione contro le denunce di discriminazione
Dopo aver raggiunto un accordo, i datori di lavoro dovrebbero verificare se questi strumenti stanno producendo risultati disparati. Gli audit sui pregiudizi possono essere richiesti dalla legge statale o locale, ma anche dove non lo sono, rappresentano una delle difese più forti disponibili in caso di reclamo. I datori di lavoro dovrebbero valutare se dispongono di documentazione che spieghi quali audit e controlli sono in atto per garantire che gli strumenti non producano risultati disparati.
Dovrebbe esserci anche documentazione per spiegare come viene utilizzata l’intelligenza artificiale nelle decisioni sul posto di lavoro, comprese le politiche interne sull’uso dell’intelligenza artificiale da parte dei dipendenti e sulla supervisione umana, materiali dei fornitori e documenti di formazione.
I datori di lavoro dovrebbero inoltre garantire che l’uso degli strumenti di intelligenza artificiale sia divulgato come richiesto dalle leggi statali e locali e spiegare come vengono utilizzati gli strumenti a dipendenti e candidati, ove richiesto.
Infine, i datori di lavoro dovrebbero dare un’occhiata ai contratti dei fornitori per capire quali promesse hanno fatto i fornitori riguardo al modo in cui i loro strumenti sono addestrati, quali audit hanno condotto e dove ricade la responsabilità. Se i contratti non sono in linea con gli obblighi di conformità della tua organizzazione, è meglio essere d’accordo su tali politiche ora, piuttosto che dopo aver presentato un reclamo.
I datori di lavoro che possono dimostrare un’implementazione conforme saranno i più adatti a difendere le rivendicazioni basate sull’uso da parte del datore di lavoro degli strumenti di intelligenza artificiale. La tecnologia continuerà ad evolversi più velocemente delle leggi che la governano, ma la responsabilità sottostante non è cambiata.
I datori di lavoro sono responsabili dei risultati delle proprie decisioni sul posto di lavoro, indipendentemente dal fatto che tali decisioni siano prese da una persona, da un algoritmo o da qualcosa di intermedio.