Laisser un outil de recrutement IA filtrer sur l'âge ou d'autres caractéristiques protégées
Automatiser la discrimination ne la blanchit pas. L'algorithme fait juste la chose illégale plus vite et à grande échelle.
Ceci n'est pas un conseil juridique. Sally critique des comportements et des cas d'usage en general, jamais votre situation precise, et rien ici ne remplace un vrai avocat. Les affaires sont reelles ; ce que vous en faites regarde vous et une personne habilitee a vous conseiller.
Déployer un logiciel de recrutement qui filtre les candidats sur l'âge, ou des indicateurs indirects de l'âge, et d'autres caractéristiques protégées.
EEOC v. iTutorGroup, Inc.
No. 1:22-cv-02565 (E.D.N.Y.), settled 2023 · US (EEOC)
Le logiciel de recrutement d'iTutorGroup rejetait automatiquement les candidates de 55 ans et plus et les candidats de 60 ans et plus, écartant plus de 200 personnes.
Le premier règlement de l'EEOC sur une discrimination par IA : 365 000 dollars assortis d'une injonction, de changements de politique, de formations et d'années de surveillance.
Un outil de recrutement rejetait automatiquement les candidates de plus de 55 ans et les candidats de plus de 60 ans, écartant plus de deux cents personnes. Il a été démasqué quand quelqu'un a recandidaté en ne changeant que la date de naissance et a soudain décroché un entretien. Un régulateur l'a traité comme une violation pure et simple de l'interdiction de discrimination par l'âge, parce que c'était exactement ça.
Mettre le biais dans un logiciel ne le rend pas neutre. Si un filtre rejette des gens sur la base d'une caractéristique protégée, ou d'un indicateur indirect comme la date de naissance, c'est la même décision illégale que si un humain l'avait prise à la main.
“Ton logiciel a rejeté tout le monde au-delà d'un certain âge, et la seule chose qu'il a triée efficacement, c'est ta boîte vers un procès.”
- 01Audite les outils de recrutement pour détecter l'impact disproportionné avant et après le déploiement, et continue de le faire.
- 02Assure-toi qu'aucune caractéristique protégée, ni indicateur indirect proche, ne pilote les décisions de tri.
- 03Garde un humain responsable des résultats. La confiance du fournisseur n'est pas un programme de conformité.
Pas un conseil juridique. Commentaire general sur un cas d'usage, pas sur votre situation. Parlez a un vrai avocat avant d'agir.