اجازه دادن به یک ابزار استخدامِ هوش مصنوعی برای فیلتر کردن بر اساس سن یا دیگر ویژگیهای حمایتشده
خودکار کردنِ تبعیض آن را پاک نمیکند. الگوریتم فقط کارِ غیرقانونی را سریعتر و در مقیاس بزرگتر انجام میدهد.
این مشاوره حقوقی نیست. سلی رفتارها و موارد کاربرد را بهطور کلی به سخره میگیرد، نه وضعیت خاص شما را، و هیچچیز اینجا جای یک وکیل واقعی را نمیگیرد. پروندهها واقعیاند؛ اما اینکه با آنها چه میکنید میان شما و کسی است که مجوز دارد به شما بگوید.
بهکارگیریِ نرمافزار استخدامی که داوطلبان را بر اساس سن، یا جایگزینهای آن، و دیگر ویژگیهای حمایتشده غربال میکند.
EEOC v. iTutorGroup, Inc.
No. 1:22-cv-02565 (E.D.N.Y.), settled 2023 · US (EEOC)
نرمافزار استخدام آیتیوترگروپ بهطور خودکار متقاضیان زنِ +۵۵ و متقاضیان مردِ +۶۰ را رد میکرد، و بیش از ۲۰۰ نفر را غربال کرد.
اولین تسویهی تبعیضِ هوش مصنوعیِ EEOC: ۳۶۵٬۰۰۰ دلار بهعلاوهی جبران الزامی، تغییرات سیاست، آموزش، و سالها نظارت.
یک ابزار استخدام بهطور خودکار متقاضیان زنِ بالای ۵۵ و متقاضیان مردِ بالای ۶۰ را رد میکرد، و بیش از دویست نفر را غربال کرد. وقتی لو رفت که کسی فقط با تغییر تاریخ تولد دوباره درخواست داد و ناگهان یک مصاحبه گرفت. یک نهاد نظارتی با آن مثل یک نقضِ سرراستِ تبعیض سنی رفتار کرد، چون دقیقاً همین بود.
گذاشتنِ سوگیری در نرمافزار آن را بیطرف نمیکند. اگر یک فیلتر آدمها را بر اساس یک ویژگی حمایتشده، یا یک جایگزین مثل تاریخ تولد، رد میکند، همان تصمیمِ غیرقانونی است که اگر یک انسان دستی میگرفت.
“نرمافزارت همهی بالای یک سنِ مشخص را رد کرد، و تنها چیزی که با کارایی غربال کرد شرکتت بود به دل یک دادخواست.”
- 01ابزارهای استخدام را برای تأثیرِ نامتناسب قبل و بعد از بهکارگیری ممیزی کن، و این کار را ادامه بده.
- 02مطمئن شو هیچ ویژگی حمایتشده، یا جایگزینِ نزدیک، تصمیمات غربالگری را پیش نمیبرد.
- 03یک انسان را مسئولِ نتایج نگه دار. اعتماد به نفسِ فروشنده یک برنامهی انطباق نیست.
مشاوره حقوقی نیست. تفسیری کلی درباره یک مورد کاربرد است، نه وضعیت شما. پیش از هر اقدامی با یک وکیل واقعی صحبت کنید.