Ein KI-Recruiting-Tool nach Alter oder anderen geschützten Merkmalen filtern lassen
Diskriminierung zu automatisieren wäscht sie nicht rein. Der Algorithmus macht die illegale Sache nur schneller und in grossem Massstab.
Dies ist keine Rechtsberatung. Sally nimmt Verhalten und Anwendungsfalle allgemein aufs Korn, nie deine konkrete Situation, und nichts hier ersetzt einen echten Anwalt. Die Falle sind echt; was du daraus machst, ist Sache zwischen dir und jemandem, der dazu befugt ist, es dir zu sagen.
Recruiting-Software einsetzen, die Bewerber nach Alter, oder Stellvertretern dafür, und anderen geschützten Merkmalen aussiebt.
EEOC v. iTutorGroup, Inc.
No. 1:22-cv-02565 (E.D.N.Y.), settled 2023 · US (EEOC)
Die Recruiting-Software von iTutorGroup lehnte automatisch weibliche Bewerber ab 55 und männliche Bewerber ab 60 ab und siebte so über 200 Menschen aus.
Der erste EEOC-Vergleich wegen KI-Diskriminierung: 365.000 $ plus Unterlassungsanordnung, Richtlinienänderungen, Schulungen und jahrelange Überwachung.
Ein Recruiting-Tool lehnte automatisch weibliche Bewerber über 55 und männliche Bewerber über 60 ab und siebte so über zweihundert Menschen aus. Es flog auf, als sich jemand mit nur geändertem Geburtsdatum erneut bewarb und plötzlich ein Vorstellungsgespräch bekam. Eine Aufsichtsbehörde behandelte es als schlichten Verstoss gegen das Diskriminierungsverbot wegen Alters, weil es genau das war.
Die Voreingenommenheit in Software zu packen, macht sie nicht neutral. Wenn ein Filter Menschen aufgrund eines geschützten Merkmals oder eines Stellvertreters wie des Geburtsdatums ablehnt, ist es dieselbe illegale Entscheidung, die es wäre, wenn ein Mensch sie von Hand träfe.
“Deine Software lehnte alle über einem bestimmten Alter ab, und das Einzige, was sie effizient aussiebte, war dein Unternehmen in eine Klage.”
- 01Prüfe Recruiting-Tools vor und nach dem Einsatz auf benachteiligende Wirkung, und hör nicht damit auf.
- 02Stelle sicher, dass kein geschütztes Merkmal, oder enger Stellvertreter, die Aussiebung steuert.
- 03Halte einen Menschen für die Ergebnisse verantwortlich. Das Selbstvertrauen des Anbieters ist kein Compliance-Programm.
Keine Rechtsberatung. Allgemeiner Kommentar zu einem Anwendungsfall, nicht zu deiner Situation. Sprich mit einem echten Anwalt, bevor du handelst.