Een AI-wervingstool laten filteren op leeftijd of andere beschermde kenmerken
Discriminatie automatiseren wast het niet wit. Het algoritme doet het illegale gewoon sneller en op grote schaal.
Dit is geen juridisch advies. Sally roast gedrag en use-cases in het algemeen, nooit jouw specifieke situatie, en niets hier vervangt een echte advocaat. De zaken zijn echt; wat je ermee doet, is tussen jou en iemand met een vergunning om je dat te vertellen.
Wervingssoftware inzetten die kandidaten screent op leeftijd, of proxy's daarvoor, en andere beschermde kenmerken.
EEOC v. iTutorGroup, Inc.
No. 1:22-cv-02565 (E.D.N.Y.), settled 2023 · US (EEOC)
De wervingssoftware van iTutorGroup wees automatisch vrouwelijke sollicitanten van 55+ en mannelijke van 60+ af, en filterde zo ruim 200 mensen weg.
De eerste EEOC-schikking over AI-discriminatie: $365.000 plus een verbodsmaatregel, beleidswijzigingen, training en jaren toezicht.
Een wervingstool wees automatisch vrouwelijke sollicitanten boven de 55 en mannelijke boven de 60 af, en filterde zo ruim tweehonderd mensen weg. Het kwam aan het licht toen iemand opnieuw solliciteerde met alleen de geboortedatum gewijzigd en plots wel een gesprek kreeg. Een toezichthouder behandelde het als een glasheldere leeftijdsdiscriminatieschending, want dat was het precies.
De vooringenomenheid in software stoppen maakt het niet neutraal. Als een filter mensen afwijst op basis van een beschermd kenmerk, of een proxy zoals geboortedatum, is het dezelfde illegale beslissing als wanneer een mens hem met de hand had genomen.
“Je software wees iedereen boven een bepaalde leeftijd af, en het enige wat ze efficiënt screende was je bedrijf een rechtszaak in.”
- 01Audit wervingstools op ongelijke impact voor en na inzet, en blijf dat doen.
- 02Zorg dat geen enkel beschermd kenmerk, of nauwe proxy, de screeningbeslissingen stuurt.
- 03Houd een mens verantwoordelijk voor de uitkomsten. Het zelfvertrouwen van de leverancier is geen nalevingsprogramma.
Geen juridisch advies. Algemeen commentaar op een use-case, niet op jouw situatie. Praat met een echte advocaat voordat je handelt.