Cynical Sally← All rulings
DoEmployment Law

At bruge AI til at skrive et jobopslag, med et menneskeligt bias-tjek før det screener nogen

AI, der skriver opslaget, er fint. AI, der afgør, hvem der afvises, uauditeret, er, hvordan du ender i retspraksis.

By Cynical SallyIssue Nº 1

Dette er ikke juridisk radgivning. Sally haner adfaerd og brugsscenarier generelt, aldrig din specifikke situation, og intet her erstatter en rigtig advokat. Sagerne er virkelige; hvad du gor ved dem, er en sag mellem dig og en, der har bemyndigelse til at radgive dig.

The use-case

At lade AI skrive og finpudse et jobopslag, mens de faktiske screeningbeslutninger holdes menneske-gennemgået og bias-tjekket.

This actually happenedA real case, in full
The receiptSettled

EEOC v. iTutorGroup, Inc.

No. 1:22-cv-02565 (E.D.N.Y.), settled 2023 · US (EEOC)

What happened

Grænsesagen. Problemet var aldrig AI, der rørte rekruttering. Det var automatiseret screening, der afviste folk på et beskyttet kendetegn uden et menneskeligt tjek.

The outcome

$365.000 og års overvågning. Hold AI på skrivningen og et menneske på beslutningen, og du bliver på den rigtige side af denne grænse.

Why

Det er det sikre spor. At bruge AI til at skrive et opslag, stramme sproget eller markere formuleringer, der kunne afskrække kandidater, er lavrisiko og reelt nyttigt. Faren bor ét skridt senere, når den samme begejstring rettes mod automatisk at afvise ansøgere, uden at nogen tjekker mønstret.

Hold modellen på skrivesiden og et menneske på beslutningssiden, og du får produktiviteten uden risikoen for skævvridende effekt. De advarende forlig deler alle ét træk: ingen auditerede, hvad automatiseringen sorterede fra.

Lad den skrive annoncen hele dagen. I det øjeblik du lader den stille og roligt afvise folk, har du hyret et søgsmål i stedet for en kandidat.

What to do instead
  • 01Lad AI skrive og forfine opslaget, og lad så et menneske eje screeningkriterierne.
  • 02Auditér enhver automatiseret filtrering for skævvridende effekt, før den rører en rigtig kandidat.
  • 03Tjek AI-skrevne opslag for sprog, der kunne afskrække beskyttede grupper, og hold så den endelige afgørelse menneskelig.

Ikke juridisk radgivning. Generel kommentar til et brugsscenarie, ikke din situation. Tal med en rigtig advokat, for du handler.