Bir yapay zeka işe alım aracının yaş veya başka korunan özelliklere göre eleme yapmasına izin vermek
Ayrımcılığı otomatikleştirmek onu aklamaz. Algoritma yasa dışı şeyi sadece daha hızlı ve daha geniş ölçekte yapar.
Bu hukuki tavsiye degildir. Sally davranislari ve kullanim senaryolarini genel olarak eleştirir, asla senin ozel durumunu degil, ve buradaki hicbir sey gercek bir avukatin yerini tutmaz. Olaylar gercek; bunlar hakkinda ne yapacagin ise seninle, bunu sana soyleme yetkisi olan biri arasindadir.
Adayları yaşa, ya da yaşın vekillerine ve diğer korunan özelliklere göre eleyen işe alım yazılımı kullanmak.
EEOC v. iTutorGroup, Inc.
No. 1:22-cv-02565 (E.D.N.Y.), settled 2023 · US (EEOC)
iTutorGroup'un işe alım yazılımı 55 yaş ve üstü kadın ve 60 yaş ve üstü erkek başvuranları otomatik reddetti; 200'den fazla kişiyi eleyerek.
İlk EEOC yapay zeka ayrımcılığı uzlaşması: 365.000 dolar artı ihtiyati tedbir, politika değişiklikleri, eğitim ve yıllarca süren izleme.
Bir işe alım aracı, 55 yaş üstü kadın ve 60 yaş üstü erkek başvuranları otomatik olarak reddetti; iki yüzden fazla kişiyi eleyerek. Biri yalnızca doğum tarihini değiştirip yeniden başvurduğunda ve aniden mülakata çağrıldığında yakalandı. Bir düzenleyici bunu düpedüz bir yaş ayrımcılığı ihlali olarak ele aldı, çünkü tam olarak buydu.
Önyargıyı yazılıma koymak onu tarafsız yapmaz. Bir filtre, korunan bir özelliğe ya da doğum tarihi gibi bir vekile dayanarak insanları reddediyorsa, bunu bir insan elle yapmış gibi aynı yasa dışı karardır.
“Yazılımınız belli bir yaşın üstündeki herkesi reddetti ve verimli bir şekilde elediği tek şey, şirketinizi bir davaya soktu.”
- 01İşe alım araçlarını, devreye almadan önce ve sonra orantısız etki açısından denetleyin ve bunu sürdürün.
- 02Hiçbir korunan özelliğin veya yakın vekilin eleme kararlarını yönlendirmediğinden emin olun.
- 03Sonuçlardan sorumlu bir insanı her zaman tutun. Satıcının özgüveni bir uyum programı değildir.
Hukuki tavsiye degildir. Senin durumun degil, bir kullanim senaryosu hakkinda genel yorumdur. Harekete gecmeden once gercek bir avukatla konuş.