Regulasi Penggunaan Automated Employment Decision Tools di Kota New York

Kota New York menjadi yang pertama di dunia yang menerapkan undang-undang yang mengatur penggunaan perangkat keputusan tenaga kerja otomatis (AEDTs). Undang-undang ini bertujuan untuk melawan potensi kerugian yang dapat ditimbulkan oleh penggunaan AEDTs bagi pencari kerja yang terpinggirkan.

Berdasarkan penelitian dari Cornell University, ditemukan bahwa kesulitan dalam interpretasi dan penegakan hukum mengakibatkan sedikit perusahaan yang mematuhi aturan tersebut. AEDTs menggunakan pembelajaran mesin, pemodelan statistik, analisis data, atau kecerdasan buatan untuk membantu pengusaha dan agen penempatan kerja memutuskan calon penerimaan mereka.

Perangkat ini menggunakan kecerdasan buatan untuk memproses tumpukan lamaran, menganalisis sentimen atau faktor psikologis dari wawancara, dan sejumlah faktor lainnya untuk akhirnya mengatakan, 'Pilih orang ini'.

Dengan bias-bias inheren dalam model kecerdasan buatan, AEDTs dapat menunjukkan bias dalam pemilihan calon kerja yang direkomendasikan, oleh karenanya diperkenalkannya Undang-Undang 144.

Undang-undang ini memungkinkan penggunaan AEDTs oleh pengusaha di Kota New York asalkan mereka mengaudit alat mereka untuk bias, menerbitkan hasil audit tersebut, dan memberitahu para pencari kerja bahwa mereka menggunakan alat ini dalam proses penerimaan mereka.

Meskipun gagasan di balik undang-undang ini baik, penelitian menemukan bahwa ketidakjelasan dalam definisi AEDTs dan cara penggunaannya mungkin menjadi penyebab rendahnya kepatuhan.

Transgresor Undang-Undang 144 menghadapi denda antara $500 dan $1,500. Namun, karena undang-undang ini mengandalkan regulasi diri dan tidak memberikan Departemen Perlindungan Konsumen dan Pekerja wewenang investigatif proaktif, tingkat kepatuhan yang rendah menjadi hal yang tidak mengherankan.

Jika pembuat undang-undang ingin melindungi pencari kerja dari risiko AI yang mungkin bermasalah dalam menentukan masa depan mereka, mereka mungkin perlu melihat kembali Undang-Undang 144.