Cynical Sally← All rulings
DoEmployment Law

Używanie AI do napisania opisu stanowiska, z ludzką kontrolą uprzedzeń, zanim cokolwiek przesieje

AI piszące ogłoszenie jest w porządku. AI decydujące, kto zostanie odrzucony, bez audytu, to sposób, by trafić do orzecznictwa.

By Cynical SallyIssue Nº 1

To nie jest porada prawna. Sally komentuje zachowania i przypadki uzycia ogolnie, nigdy twojej konkretnej sytuacji, i nic tutaj nie zastapi prawdziwego prawnika. Sprawy sa prawdziwe; co z nimi zrobisz, to kwestia miedzy toba a kims uprawnionym, by ci to doradzic.

The use-case

Pozwalanie AI napisać i dopracować opis stanowiska, przy zachowaniu faktycznych decyzji przesiewowych pod kontrolą człowieka i sprawdzonych pod kątem uprzedzeń.

This actually happenedA real case, in full
The receiptSettled

EEOC v. iTutorGroup, Inc.

No. 1:22-cv-02565 (E.D.N.Y.), settled 2023 · US (EEOC)

What happened

Sprawa wyznaczająca granicę. Problemem nigdy nie było to, że AI dotyka rekrutacji. Był nim automatyczny przesiew odrzucający ludzi na podstawie cechy chronionej, bez ludzkiej kontroli.

The outcome

365 000 $ i lata monitorowania. Trzymaj AI przy pisaniu, a człowieka przy decydowaniu, a zostaniesz po właściwej stronie tej granicy.

Why

To bezpieczny pas. Używanie AI do napisania ogłoszenia, zacieśnienia języka lub wychwycenia sformułowań, które mogłyby zniechęcić kandydatów, jest niskiego ryzyka i naprawdę pomocne. Niebezpieczeństwo czyha o krok dalej, gdy ten sam zapał zostaje skierowany na automatyczne odrzucanie kandydatów bez czyjejkolwiek kontroli wzorca.

Trzymaj model po stronie pisania, a człowieka po stronie decydowania, a dostaniesz produktywność bez ekspozycji na nierówny wpływ. Wszystkie ostrzegawcze ugody mają jedną wspólną cechę: nikt nie audytował, co automatyzacja odsiewała.

Niech pisze reklamę cały dzień. W chwili, gdy pozwolisz mu po cichu odrzucać ludzi, zatrudniłeś pozew zamiast kandydata.

What to do instead
  • 01Niech AI napisze i dopracuje ogłoszenie, a potem niech człowiek przejmie kryteria przesiewowe.
  • 02Audytuj każde automatyczne filtrowanie pod kątem nierównego wpływu, zanim dotknie prawdziwego kandydata.
  • 03Sprawdzaj ogłoszenia napisane przez AI pod kątem języka, który mógłby zniechęcić grupy chronione, a ostateczną decyzję pozostaw człowiekowi.

To nie porada prawna. Ogolny komentarz do przypadku uzycia, nie do twojej sytuacji. Porozmawiaj z prawdziwym prawnikiem, zanim zaczniesz dzialac.