Pozwalanie, by narzędzie rekrutacyjne AI filtrowało po wieku lub innych cechach chronionych
Automatyzacja dyskryminacji jej nie pierze. Algorytm po prostu robi nielegalną rzecz szybciej i na skalę.
To nie jest porada prawna. Sally komentuje zachowania i przypadki uzycia ogolnie, nigdy twojej konkretnej sytuacji, i nic tutaj nie zastapi prawdziwego prawnika. Sprawy sa prawdziwe; co z nimi zrobisz, to kwestia miedzy toba a kims uprawnionym, by ci to doradzic.
Wdrażanie oprogramowania rekrutacyjnego, które przesiewa kandydatów po wieku lub jego zamiennikach oraz innych cechach chronionych.
EEOC v. iTutorGroup, Inc.
No. 1:22-cv-02565 (E.D.N.Y.), settled 2023 · US (EEOC)
Oprogramowanie rekrutacyjne iTutorGroup automatycznie odrzucało kandydatki 55+ i kandydatów 60+, odsiewając ponad 200 osób.
Pierwsza ugoda EEOC w sprawie dyskryminacji przez AI: 365 000 $ plus środki nakazowe, zmiany w polityce, szkolenia i lata monitorowania.
Narzędzie rekrutacyjne automatycznie odrzucało kandydatki powyżej 55. roku życia i kandydatów powyżej 60. roku życia, odsiewając ponad dwieście osób. Wyszło na jaw, gdy ktoś złożył ponownie aplikację, zmieniając tylko datę urodzenia, i nagle dostał zaproszenie na rozmowę. Regulator potraktował to jako oczywiste naruszenie zakazu dyskryminacji ze względu na wiek, bo dokładnie tym to było.
Wsadzenie uprzedzenia w oprogramowanie nie czyni go neutralnym. Jeśli filtr odrzuca ludzi na podstawie cechy chronionej lub jej zamiennika, jak data urodzenia, to ta sama nielegalna decyzja, jaką byłaby, gdyby podjął ją człowiek ręcznie.
“Twoje oprogramowanie odrzuciło wszystkich powyżej pewnego wieku, a jedyną rzeczą, którą przesiało sprawnie, była twoja firma prosto do pozwu.”
- 01Audytuj narzędzia rekrutacyjne pod kątem nierównego wpływu przed wdrożeniem i po nim, i rób to dalej.
- 02Upewnij się, że żadna cecha chroniona, ani bliski jej zamiennik, nie steruje decyzjami przesiewowymi.
- 03Niech za wyniki odpowiada człowiek. Pewność siebie dostawcy to nie program zgodności.
To nie porada prawna. Ogolny komentarz do przypadku uzycia, nie do twojej sytuacji. Porozmawiaj z prawdziwym prawnikiem, zanim zaczniesz dzialac.