Pustiti AI alat za zapošljavanje da filtrira po dobi ili drugim zaštićenim svojstvima
Automatizacija diskriminacije ne pere je. Algoritam samo radi nezakonitu stvar brže i u velikom opsegu.
Ovo nije pravni savjet. Sally ismijava ponasanja i slucajeve uporabe opcenito, nikada tvoju konkretnu situaciju, i nista ovdje ne zamjenjuje pravog odvjetnika. Slucajevi su stvarni; sto ces s njima uciniti, stvar je izmedu tebe i nekoga ovlastenog da ti to kaze.
Postavljanje softvera za zapošljavanje koji odsijeca kandidate po dobi, ili po njezinim zamjenama, i drugim zaštićenim obilježjima.
EEOC v. iTutorGroup, Inc.
No. 1:22-cv-02565 (E.D.N.Y.), settled 2023 · US (EEOC)
Softver za zapošljavanje iTutorGroupa automatski je odbijao žene od 55+ i muškarce od 60+ godina, odsjekavši više od 200 ljudi.
Prva EEOC nagodba o AI diskriminaciji: 365.000 dolara uz sudsku zabranu, promjene pravila, obuku i godine nadzora.
Alat za zapošljavanje automatski je odbijao žene starije od 55 i muškarce starije od 60 godina, odsjekavši više od dvjesto ljudi. Uhvaćen je kad se netko ponovno prijavio promijenivši samo datum rođenja i odjednom dobio poziv na razgovor. Regulator je to tretirao kao izravnu povredu zabrane dobne diskriminacije, jer je to upravo i bila.
Stavljanje pristranosti u softver ne čini je neutralnom. Ako filter odbija ljude na temelju zaštićenog obilježja, ili zamjene poput datuma rođenja, to je ista nezakonita odluka kao da ju je čovjek donio ručno.
“Vaš je softver odbio sve preko određene dobi, a jedino što je učinkovito odsijecao bila je vaša tvrtka u tužbu.”
- 01Provjeravajte alate za zapošljavanje na nesrazmjeran učinak prije i nakon postavljanja, i nastavite to raditi.
- 02Pobrinite se da nijedno zaštićeno obilježje, ili bliska zamjena, ne pokreće odluke o odsijecanju.
- 03Neka čovjek bude odgovoran za ishode. Samopouzdanje dobavljača nije program usklađenosti.
Nije pravni savjet. Opci komentar na slucaj uporabe, ne na tvoju situaciju. Razgovaraj s pravim odvjetnikom prije nego sto nesto poduzmes.