AI een functieomschrijving laten schrijven, met een menselijke bias-check voordat het iemand screent
AI die de vacature schrijft is prima. AI die ongecontroleerd beslist wie wordt afgewezen is hoe je in de jurisprudentie belandt.
Dit is geen juridisch advies. Sally roast gedrag en use-cases in het algemeen, nooit jouw specifieke situatie, en niets hier vervangt een echte advocaat. De zaken zijn echt; wat je ermee doet, is tussen jou en iemand met een vergunning om je dat te vertellen.
AI een functieomschrijving laten schrijven en bijschaven, terwijl de daadwerkelijke screeningbeslissingen door mensen worden nagekeken en op bias gecontroleerd.
EEOC v. iTutorGroup, Inc.
No. 1:22-cv-02565 (E.D.N.Y.), settled 2023 · US (EEOC)
De grenszaak. Het probleem was nooit dat AI de werving raakte. Het was geautomatiseerde screening die mensen afwees op een beschermd kenmerk zonder menselijke controle.
$365.000 en jaren toezicht. Houd AI aan het schrijven en een mens aan het beslissen, en je blijft aan de goede kant van deze grens.
Dit is de veilige rijbaan. AI gebruiken om een vacature te schrijven, de taal aan te scherpen, of formuleringen te markeren die kandidaten kunnen afschrikken is laag risico en echt nuttig. Het gevaar zit één stap verder, wanneer dezelfde geestdrift wordt gericht op het automatisch afwijzen van sollicitanten zonder dat iemand het patroon controleert.
Houd het model aan de schrijfkant en een mens aan de beslissende kant, en je krijgt de productiviteit zonder de blootstelling aan ongelijke impact. De waarschuwingsschikkingen delen allemaal één trek: niemand controleerde wat de automatisering wegfilterde.
“Laat het de hele dag de advertentie schrijven. Op het moment dat je het stilletjes mensen laat afwijzen, heb je een rechtszaak aangenomen in plaats van een kandidaat.”
- 01Laat AI de vacature schrijven en verfijnen, en laat een mens vervolgens de screeningcriteria bezitten.
- 02Audit elke geautomatiseerde filtering op ongelijke impact voordat die een echte kandidaat raakt.
- 03Controleer door AI geschreven vacatures op taal die beschermde groepen kan afschrikken, en houd het eindoordeel menselijk.
Geen juridisch advies. Algemeen commentaar op een use-case, niet op jouw situatie. Praat met een echte advocaat voordat je handelt.