At lade et AI-rekrutteringsværktøj filtrere på alder eller andre beskyttede kendetegn
At automatisere diskrimination renvasker den ikke. Algoritmen gør bare det ulovlige hurtigere og i stor skala.
Dette er ikke juridisk radgivning. Sally haner adfaerd og brugsscenarier generelt, aldrig din specifikke situation, og intet her erstatter en rigtig advokat. Sagerne er virkelige; hvad du gor ved dem, er en sag mellem dig og en, der har bemyndigelse til at radgive dig.
At indsætte rekrutteringssoftware, der screener kandidater på alder, eller proxyer for den, og andre beskyttede kendetegn.
EEOC v. iTutorGroup, Inc.
No. 1:22-cv-02565 (E.D.N.Y.), settled 2023 · US (EEOC)
iTutorGroups rekrutteringssoftware afviste automatisk kvindelige ansøgere på 55+ og mandlige ansøgere på 60+ og sorterede mere end 200 mennesker fra.
Det første EEOC-forlig om AI-diskrimination: $365.000 plus påbud, politikændringer, træning og års overvågning.
Et rekrutteringsværktøj afviste automatisk kvindelige ansøgere over 55 og mandlige ansøgere over 60 og sorterede mere end to hundrede mennesker fra. Det blev opdaget, da nogen genansøgte med kun fødselsdatoen ændret og pludselig fik en samtale. En tilsynsmyndighed behandlede det som en ligefrem aldersdiskriminationsovertrædelse, for det var præcis, hvad det var.
At lægge biasen i software gør den ikke neutral. Hvis et filter afviser folk baseret på et beskyttet kendetegn, eller en proxy som fødselsdato, er det den samme ulovlige beslutning, som det ville være, hvis et menneske traf den i hånden.
“Din software afviste alle over en vis alder, og det eneste, den screenede effektivt, var din virksomhed ind i et søgsmål.”
- 01Auditér rekrutteringsværktøjer for skævvridende effekt før og efter ibrugtagning, og bliv ved med det.
- 02Sørg for, at intet beskyttet kendetegn, eller tæt proxy, driver screeningbeslutningerne.
- 03Hold et menneske ansvarligt for udfaldene. Leverandørens selvtillid er ikke et complianceprogram.
Ikke juridisk radgivning. Generel kommentar til et brugsscenarie, ikke din situation. Tal med en rigtig advokat, for du handler.