Cynical Sally← All rulings
DoEmployment Law

Memakai AI untuk menyusun deskripsi pekerjaan, dengan pemeriksaan bias oleh manusia sebelum ia menyaring siapa pun

AI menulis lowongan itu tidak apa-apa. AI memutuskan siapa yang ditolak, tanpa diaudit, adalah cara kamu berakhir di catatan kasus.

By Cynical SallyIssue NĀŗ 1

Ini bukan nasihat hukum. Sally menyindir perilaku dan kasus penggunaan secara umum, bukan situasi spesifik Anda, dan tidak ada di sini yang menggantikan pengacara sungguhan. Kasusnya nyata; apa yang Anda lakukan terhadapnya adalah urusan antara Anda dan seseorang yang berlisensi untuk menasihati Anda.

The use-case

Membiarkan AI menyusun dan memoles deskripsi pekerjaan, sambil menjaga keputusan penyaringan sebenarnya tetap ditinjau manusia dan diperiksa biasnya.

This actually happenedA real case, in full
The receiptSettled

EEOC v. iTutorGroup, Inc.

No. 1:22-cv-02565 (E.D.N.Y.), settled 2023 Ā· US (EEOC)

What happened

Kasus pembatas. Masalahnya tak pernah AI menyentuh rekrutmen. Masalahnya penyaringan otomatis yang menolak orang berdasarkan karakteristik terlindungi tanpa pemeriksaan manusia.

The outcome

$365.000 dan pemantauan bertahun-tahun. Jaga AI di sisi penulisan dan manusia di sisi pengambilan keputusan, dan kamu tetap di sisi yang benar dari garis ini.

Why

Inilah jalur amannya. Memakai AI untuk menyusun lowongan, mengetatkan bahasa, atau menandai kata yang mungkin membuat kandidat enggan adalah berisiko rendah dan sungguh membantu. Bahayanya hidup satu langkah kemudian, saat antusiasme yang sama diarahkan untuk otomatis menolak pelamar tanpa ada yang memeriksa polanya.

Jaga model di sisi penulisan dan manusia di sisi pengambilan keputusan, dan kamu mendapat produktivitasnya tanpa paparan dampak tak setara. Semua penyelesaian peringatan itu punya satu ciri sama: tak ada yang mengaudit apa yang disingkirkan otomatisasi itu.

ā€œBiarkan ia menulis iklan seharian. Begitu kamu membiarkannya diam-diam menolak orang, kamu telah merekrut gugatan alih-alih kandidat.ā€

What to do instead
  • 01Biarkan AI menyusun dan memperhalus lowongan, lalu jadikan manusia pemilik kriteria penyaringan.
  • 02Audit penyaringan otomatis apa pun soal dampak tak setara sebelum ia menyentuh kandidat sungguhan.
  • 03Periksa lowongan tulisan AI soal bahasa yang bisa membuat kelompok terlindungi enggan, lalu jaga keputusan akhir tetap di tangan manusia.

Bukan nasihat hukum. Komentar umum atas sebuah kasus penggunaan, bukan situasi Anda. Bicaralah dengan pengacara sungguhan sebelum bertindak.