أن تترك أداة توظيف بالذكاء الاصطناعي تُرشّح حسب السنّ أو سمات محمية أخرى
أتمتة التمييز لا تُبيّضه. الخوارزمية تؤدي الفعل غير القانوني أسرع وعلى نطاق أوسع فحسب.
هذه ليست استشارة قانونية. تسخر سالي من السلوكيات وحالات الاستخدام بشكل عام، لا من وضعك الخاص، ولا شيء هنا يحل محل محامٍ حقيقي. القضايا حقيقية؛ أما ما تفعله حيالها فهو شأن بينك وبين شخص مرخّص له أن يخبرك بذلك.
نشر برمجيات توظيف تفرز المرشحين حسب السنّ، أو بدائل عنه، وغيرها من الخصائص المحمية.
EEOC v. iTutorGroup, Inc.
No. 1:22-cv-02565 (E.D.N.Y.), settled 2023 · US (EEOC)
رفضت برمجيات توظيف iTutorGroup تلقائياً المتقدّمات بسنّ 55 فأكثر والمتقدّمين بسنّ 60 فأكثر، فاستبعدت أكثر من 200 شخص.
أول تسوية لـ EEOC بشأن تمييز الذكاء الاصطناعي: 365,000 دولار إضافة إلى انتصاف زجري وتغييرات في السياسات وتدريب وسنوات من المراقبة.
رفضت أداة توظيف تلقائياً المتقدّمات فوق 55 والمتقدّمين فوق 60، فاستبعدت أكثر من مئتي شخص. اكتُشف الأمر حين أعاد أحدهم التقديم بتغيير تاريخ الميلاد فقط فحصل فجأة على مقابلة. عاملته جهة تنظيمية كانتهاك تمييز عمري واضح، لأن ذلك بالضبط ما كان.
وضع التحيّز في برمجيات لا يجعله محايداً. إن رفض مُرشِّح أشخاصاً بناءً على خاصية محمية، أو بديل عنها كتاريخ الميلاد، فهو القرار غير القانوني نفسه الذي سيكونه لو اتخذه بشر بيده.
“رفضت برمجيتك كل من تجاوز سنّاً معيناً، والشيء الوحيد الذي فرزته بكفاءة كان فرز شركتك إلى دعوى قضائية.”
- 01دقّق أدوات التوظيف بحثاً عن أثر تمييزي متفاوت قبل النشر وبعده، واستمرّ في ذلك.
- 02تأكد من أن لا خاصية محمية، أو بديلاً قريباً عنها، تقود قرارات الفرز.
- 03أبقِ بشرياً مسؤولاً عن النتائج. ثقة المزوّد ليست برنامج امتثال.
ليست استشارة قانونية. تعليق عام على حالة استخدام، لا على وضعك. تحدّث مع محامٍ حقيقي قبل أن تتصرف.