Deixar uma ferramenta de recrutamento por IA filtrar por idade ou outras características protegidas
Automatizar a discriminação não a branqueia. O algoritmo só faz a coisa ilegal mais depressa e em escala.
Isto nao e aconselhamento juridico. A Sally critica comportamentos e casos de uso em geral, nunca a tua situacao especifica, e nada aqui substitui um advogado a serio. Os casos sao reais; o que fazes com eles e entre ti e alguem habilitado a dizer-te.
Implementar software de recrutamento que filtra candidatos por idade, ou por substitutos dela, e outras características protegidas.
EEOC v. iTutorGroup, Inc.
No. 1:22-cv-02565 (E.D.N.Y.), settled 2023 · US (EEOC)
O software de recrutamento da iTutorGroup rejeitava automaticamente candidatas com 55+ e candidatos com 60+, eliminando mais de 200 pessoas.
O primeiro acordo de discriminação por IA da EEOC: 365.000 dólares mais medidas cautelares, mudanças de política, formação e anos de monitorização.
Uma ferramenta de recrutamento rejeitava automaticamente as candidatas com mais de 55 anos e os candidatos com mais de 60, eliminando mais de duzentas pessoas. Foi apanhada quando alguém se recandidatou mudando apenas a data de nascimento e de repente conseguiu uma entrevista. Um regulador tratou-a como uma violação direta de discriminação por idade, porque era exatamente o que era.
Meter o preconceito em software não o torna neutro. Se um filtro rejeita pessoas com base numa característica protegida, ou num substituto como a data de nascimento, é a mesma decisão ilegal que seria se um humano a tomasse à mão.
“O seu software rejeitou toda a gente acima de certa idade, e a única coisa que filtrou com eficiência foi a sua empresa para dentro de um processo.”
- 01Audite as ferramentas de recrutamento quanto a impacto díspar antes e depois da implementação, e continue a fazê-lo.
- 02Garanta que nenhuma característica protegida, ou substituto próximo, está a guiar as decisões de filtragem.
- 03Mantenha um humano responsável pelos resultados. A confiança do fornecedor não é um programa de conformidade.
Nao e aconselhamento juridico. Comentario geral sobre um caso de uso, nao sobre a tua situacao. Fala com um advogado a serio antes de agires.