Cynical Sally← All rulings
Don'tEmployment Law

AI ishga qabul qilish vositasiga yosh yoki boshqa himoyalangan xususiyatlar bo'yicha saralashga ruxsat berish

Kamsitishni avtomatlashtirish uni tozalamaydi. Algoritm shunchaki noqonuniy ishni tezroq va keng ko'lamda qiladi.

By Cynical SallyIssue NĀŗ 1

Bu yuridik maslahat emas. Sally xatti-harakatlar va foydalanish holatlarini umumiy tarzda kinoya qiladi, hech qachon sizning aniq vaziyatingizni emas, va bu yerdagi hech narsa haqiqiy advokat o'rnini bosmaydi. Holatlar haqiqiy; ular bilan nima qilishingiz esa siz va sizga buni aytishga vakolatli kishi o'rtasidagi ish.

The use-case

Nomzodlarni yosh, yoki uning vakili bo'yicha va boshqa himoyalangan xususiyatlar bo'yicha saralaydigan ishga qabul qilish dasturini joriy etish.

This actually happenedA real case, in full
The receiptSettled

EEOC v. iTutorGroup, Inc.

No. 1:22-cv-02565 (E.D.N.Y.), settled 2023 Ā· US (EEOC)

What happened

iTutorGroupning ishga qabul qilish dasturi 55+ ayol nomzodlarni va 60+ erkak nomzodlarni avtomatik rad etdi, 200 dan ortiq odamni saralab tashlab.

The outcome

Birinchi EEOC AI-kamsitilish kelishuvi: $365,000 va sud taqiqi, siyosat o'zgarishlari, treninglar va yillik monitoring.

Why

Bir ishga qabul qilish vositasi 55 yoshdan oshgan ayol nomzodlarni va 60 yoshdan oshgan erkak nomzodlarni avtomatik rad etdi, ikki yuzdan ortiq odamni saralab tashlab. Kimdir faqat tug'ilgan sanasini o'zgartirib qayta ariza berib, birdan suhbatga taklif olganida fosh bo'ldi. Tartibga soluvchi buni oddiy yosh kamsitilishi buzilishi deb hisobladi, chunki bu aynan shunday edi.

Tarafkashlikni dasturga qo'yish uni neytral qilmaydi. Agar filtr odamlarni himoyalangan xususiyat yoki tug'ilgan sana kabi vakil asosida rad etsa, bu xuddi inson qo'lda qilganidek bir xil noqonuniy qarordir.

ā€œDasturingiz ma'lum yoshdan oshgan hammani rad etdi va u samarali saralagan yagona narsa kompaniyangizni sud da'vosiga qarab edi.ā€

What to do instead
  • 01Ishga qabul qilish vositalarini joriy etishdan oldin va keyin nomutanosib ta'sir uchun tekshiring va buni davom ettiring.
  • 02Hech qanday himoyalangan xususiyat yoki yaqin vakil saralash qarorlarini boshqarmayotganiga ishonch hosil qiling.
  • 03Natijalar uchun insonni javobgar saqlang. Sotuvchining ishonchi muvofiqlik dasturi emas.

Yuridik maslahat emas. Bu sizning vaziyatingiz emas, foydalanish holati haqida umumiy sharh. Harakat qilishdan oldin haqiqiy advokat bilan gaplashing.