Cynical Sally← All rulings
DoEmployment Law

Usar a IA para redigir uma descrição de função, com revisão humana de preconceito antes de filtrar alguém

A IA escrever o anúncio, tudo bem. A IA decidir quem é rejeitado, sem auditoria, é como você acaba na jurisprudência.

By Cynical SallyIssue Nº 1

Isto nao e aconselhamento juridico. A Sally critica comportamentos e casos de uso em geral, nunca a tua situacao especifica, e nada aqui substitui um advogado a serio. Os casos sao reais; o que fazes com eles e entre ti e alguem habilitado a dizer-te.

The use-case

Deixar a IA redigir e aperfeiçoar uma descrição de função, mantendo as decisões de triagem revistas por humanos e auditadas quanto a preconceito.

This actually happenedA real case, in full
The receiptSettled

EEOC v. iTutorGroup, Inc.

No. 1:22-cv-02565 (E.D.N.Y.), settled 2023 · US (EEOC)

What happened

O caso da fronteira. O problema nunca foi a IA tocar no recrutamento. Foi a triagem automática rejeitar pessoas por uma característica protegida sem verificação humana.

The outcome

365.000 dólares e anos de monitorização. Mantenha a IA na escrita e um humano na decisão, e fica do lado certo desta linha.

Why

É a via segura. Usar a IA para redigir um anúncio, apertar a linguagem ou assinalar formulações que possam afastar candidatos é de baixo risco e genuinamente útil. O perigo vive um passo à frente, quando o mesmo entusiasmo é apontado a rejeitar candidatos automaticamente sem ninguém verificar o padrão.

Mantenha o modelo do lado da escrita e um humano do lado da decisão, e fica com a produtividade sem a exposição ao impacto díspar. Os acordos de aviso partilham todos uma característica: ninguém auditou o que a automação estava a eliminar.

Deixe-a escrever o anúncio o dia todo. No momento em que a deixar rejeitar pessoas em silêncio, contratou um processo em vez de um candidato.

What to do instead
  • 01Deixe a IA redigir e refinar o anúncio, depois ponha um humano a ser dono dos critérios de triagem.
  • 02Audite qualquer filtragem automática quanto a impacto díspar antes de tocar num candidato real.
  • 03Verifique anúncios escritos por IA quanto a linguagem que possa afastar grupos protegidos, depois mantenha a decisão final humana.

Nao e aconselhamento juridico. Comentario geral sobre um caso de uso, nao sobre a tua situacao. Fala com um advogado a serio antes de agires.