AI 채용 도구가 나이나 다른 보호되는 특성으로 거르게 두는 것
차별을 자동화한다고 세탁되지 않는다. 알고리즘은 그저 불법적인 일을 더 빠르게, 더 대규모로 할 뿐이다.
이것은 법률 자문이 아닙니다. 샐리는 특정한 당신의 상황이 아니라 일반적인 행동과 사용 사례를 비꼬며, 여기 있는 어떤 것도 진짜 변호사를 대신하지 않습니다. 사례는 실제이지만, 그에 대해 무엇을 할지는 당신과 그것을 말해 줄 자격이 있는 사람 사이의 문제입니다.
지원자를 나이나 그 대리 지표, 그리고 다른 보호되는 특성으로 걸러내는 채용 소프트웨어를 배치하는 것.
EEOC v. iTutorGroup, Inc.
No. 1:22-cv-02565 (E.D.N.Y.), settled 2023 · US (EEOC)
iTutorGroup의 채용 소프트웨어는 55세 이상 여성 지원자와 60세 이상 남성 지원자를 자동 탈락시켜 200명이 넘는 사람을 걸러냈다.
첫 EEOC AI 차별 합의로, $365,000와 함께 금지명령적 구제, 정책 변경, 교육, 그리고 수년간의 감시가 부과됐다.
한 채용 도구가 55세 초과 여성 지원자와 60세 초과 남성 지원자를 자동으로 탈락시켜 이백 명이 넘는 사람을 걸러냈다. 누군가 생년월일만 바꿔 재지원하자 갑자기 면접 기회를 얻으면서 들통났다. 한 규제기관은 이를 단순명료한 연령 차별 위반으로 다뤘다. 정확히 그것이었기 때문이다.
편향을 소프트웨어에 넣는다고 그게 중립이 되지는 않는다. 필터가 보호되는 특성이나 생년월일 같은 대리 지표로 사람을 탈락시킨다면, 그건 사람이 직접 손으로 했을 때와 똑같이 불법적인 결정이다.
“당신 소프트웨어는 특정 나이 위의 모두를 탈락시켰고, 그게 효율적으로 선별한 단 하나는 당신 회사를 소송으로 밀어 넣는 일이었다.”
- 01배치 전후로 채용 도구의 차별적 영향(disparate impact)을 감사하고, 계속해서 하라.
- 02어떤 보호되는 특성이나 그에 가까운 대리 지표도 선별 결정을 끌고 가지 않도록 확실히 하라.
- 03결과에 책임지는 사람을 두라. 벤더의 자신감은 컴플라이언스 프로그램이 아니다.
법률 자문이 아닙니다. 당신의 상황이 아니라 사용 사례에 대한 일반적인 논평입니다. 행동하기 전에 진짜 변호사와 상담하세요.