Lasciare che uno strumento AI di selezione filtri in base all'età o ad altre caratteristiche protette
Automatizzare la discriminazione non la ripulisce. L'algoritmo fa solo la cosa illegale più in fretta e su larga scala.
Questo non e un parere legale. Sally critica comportamenti e casi d'uso in generale, mai la tua situazione specifica, e niente qui sostituisce un vero avvocato. I casi sono reali; cosa farne e una questione tra te e qualcuno abilitato a dirtelo.
Schierare software di recruiting che filtra i candidati in base all'età, o a indizi che la rivelano, e ad altre caratteristiche protette.
EEOC v. iTutorGroup, Inc.
No. 1:22-cv-02565 (E.D.N.Y.), settled 2023 · US (EEOC)
Il software di selezione di iTutorGroup scartava automaticamente le candidate donne dai 55 anni in su e i candidati uomini dai 60 in su, eliminando più di 200 persone.
La prima transazione dell'EEOC sulla discriminazione da AI: 365.000 dollari più provvedimenti inibitori, modifiche alle policy, formazione e anni di monitoraggio.
Uno strumento di selezione scartava automaticamente le candidate donne sopra i 55 anni e i candidati uomini sopra i 60, eliminando più di duecento persone. È stato scoperto quando qualcuno si è ricandidato cambiando solo la data di nascita e all'improvviso ha ottenuto un colloquio. Un'autorità lo ha trattato come una violazione lampante di discriminazione per età, perché è esattamente ciò che era.
Mettere il pregiudizio in un software non lo rende neutrale. Se un filtro scarta le persone in base a una caratteristica protetta, o a un indizio come la data di nascita, è la stessa decisione illegale che sarebbe se la prendesse un essere umano a mano.
“Il tuo software ha scartato tutti sopra una certa età, e l'unica cosa che ha filtrato con efficienza è stata la tua azienda dritta dentro una causa.”
- 01Verifica gli strumenti di selezione per impatto sproporzionato prima e dopo lo schieramento, e continua a farlo.
- 02Assicurati che nessuna caratteristica protetta, o indizio ravvicinato, stia guidando le decisioni di selezione.
- 03Tieni un essere umano responsabile dei risultati. La sicurezza del fornitore non è un programma di conformità.
Non e un parere legale. Commento generale su un caso d'uso, non sulla tua situazione. Parla con un vero avvocato prima di agire.