AI採用ツールに年齢など保護対象の属性で選別させる
差別を自動化しても浄化はされません。アルゴリズムは違法なことをより速く、より大規模にやるだけです。
これは法的助言ではありません。サリーが皮肉るのは一般的な行動やユースケースであって、あなた個別の状況ではなく、ここにある内容が本物の弁護士の代わりになることはありません。事例は実在しますが、それにどう対処するかはあなたと、それを助言する資格を持つ者との間の問題です。
候補者を年齢やその代理指標、その他の保護される特性で選別する採用ソフトを配備すること。
EEOC v. iTutorGroup, Inc.
No. 1:22-cv-02565 (E.D.N.Y.), settled 2023 · US (EEOC)
iTutorGroupの採用ソフトが、55歳以上の女性応募者と60歳以上の男性応募者を自動的に不採用にし、200人超をふるい落としました。
EEOC初のAI差別和解。365,000ドルに加え、差止め救済、方針変更、研修、数年にわたるモニタリング。
ある採用ツールが、55歳超の女性応募者と60歳超の男性応募者を自動的に不採用にし、200人超をふるい落としました。生年月日だけを変えて再応募した人が突然面接にこぎ着けたことで発覚しました。規制当局はそれを単純明快な年齢差別違反として扱いました。まさにそのとおりだったからです。
バイアスをソフトに入れても中立にはなりません。フィルターが保護される特性、あるいは生年月日のような代理指標に基づいて人を不採用にするなら、それは人間が手作業で下したのと同じ違法な判断です。
“あなたのソフトは一定年齢以上を全員不採用にし、唯一効率よくふるいにかけたのは、あなたの会社を訴訟の中へでした。”
- 01採用ツールを配備前と配備後に差別的影響について監査し、それを続けること。
- 02保護される特性、あるいは近い代理指標が選別判断を動かしていないことを確かめること。
- 03結果に責任を負う人間を置くこと。ベンダーの自信はコンプライアンスプログラムではありません。
法的助言ではありません。あなたの状況ではなく、ユースケースへの一般的な論評です。行動する前に本物の弁護士に相談してください。