Puštanje AI alata za zapošljavanje da filtrira po godinama ili drugim zaštićenim svojstvima
Automatizacija diskriminacije je ne pere. Algoritam samo radi nezakonitu stvar brže i u razmeri.
Ovo nije pravni savet. Sali ismeva ponasanja i slucajeve upotrebe uopsteno, nikada tvoju konkretnu situaciju, i nista ovde ne zamenjuje pravog advokata. Slucajevi su stvarni; sta ces s njima da uradis, stvar je izmedu tebe i nekoga ovlascenog da ti to kaze.
Postavljaš softver za regrutaciju koji odbija kandidate po godinama, ili po zamenama za njih, i po drugim zaštićenim karakteristikama.
EEOC v. iTutorGroup, Inc.
No. 1:22-cv-02565 (E.D.N.Y.), settled 2023 · US (EEOC)
Softver za zapošljavanje iTutorGroupa automatski je odbijao kandidatkinje 55+ i kandidate 60+, izbacivši više od 200 ljudi.
Prva EEOC nagodba o AI diskriminaciji: 365.000 dolara plus sudska zabrana, izmene politike, obuke i godine nadzora.
Alat za zapošljavanje automatski je odbijao kandidatkinje preko 55 i kandidate preko 60 godina, izbacivši više od dvesta ljudi. Otkriven je kad se neko ponovo prijavio promenivši samo datum rođenja i odjednom dobio razgovor. Regulator je to tretirao kao jasnu povredu zabrane diskriminacije po godinama, jer je to upravo i bilo.
Stavljanje pristrasnosti u softver ne čini je neutralnom. Ako filter odbija ljude na osnovu zaštićene karakteristike, ili zamene poput datuma rođenja, to je ista nezakonita odluka kakva bi bila da ju je čovek doneo ručno.
“Tvoj softver je odbio sve preko određenih godina, a jedino što je efikasno odsejao bila je tvoja firma u tužbu.”
- 01Proveravaj alate za zapošljavanje na neproporcionalan uticaj pre i posle postavljanja, i nastavi da to radiš.
- 02Uveri se da nijedna zaštićena karakteristika, ni bliska zamena, ne pokreće odluke o odabiru.
- 03Drži čoveka odgovornim za ishode. Samouverenost dobavljača nije program usklađenosti.
Nije pravni savet. Opsti komentar na slucaj upotrebe, ne na tvoju situaciju. Razgovaraj sa pravim advokatom pre nego sto nesto preduzmes.