Seleksi CV Pakai AI, Hati-hati Biasnya Ikut Terotomatisasi

Satu lowongan dibuka, tiga ratus lamaran masuk. Membaca semuanya bisa makan berhari-hari, jadi wajar kalau muncul ide: suruh AI membaca semua CV, beri skor, ambil sepuluh teratas. Cepat, murah, dan terasa objektif.

Masalahnya, "terasa objektif" itu justru jebakannya. AI belajar dari pola, dan kalau polanya mengandung bias, AI menjalankan bias itu dengan sangat konsisten, ke ratusan pelamar sekaligus, tanpa ada yang sadar.

Dua contoh yang sering dikutip

Amazon, 2018. Reuters melaporkan bahwa Amazon menghentikan alat rekrutmen berbasis AI yang dikembangkan sejak 2014 (dimuat ulang oleh Euronews). Modelnya dilatih dengan CV yang masuk selama sepuluh tahun, yang kebanyakan dari laki-laki. Hasilnya, sistem itu belajar menurunkan nilai CV yang memuat kata "women's" dan lulusan kampus khusus perempuan. Upaya memperbaikinya nggak menjamin hasil yang adil, dan proyeknya dihentikan. Amazon menyatakan rekruternya nggak pernah hanya mengandalkan alat itu.

University of Washington, 2024. Peneliti UW menguji tiga model bahasa besar dengan lebih dari 550 CV nyata dan lebih dari 500 lowongan di sembilan jenis pekerjaan, total lebih dari tiga juta perbandingan. CV-nya sama, yang diganti hanya namanya. Model-model itu lebih memilih nama yang diasosiasikan dengan orang kulit putih di 85% perbandingan, dan nama perempuan hanya di 11% perbandingan, dibanding 52% untuk nama laki-laki.

Perbandingan di mana model lebih memilih nama yang diasosiasikan dengan kulit putih (UW, 2024)

85%

Perbandingan di mana nama perempuan yang dipilih, dibanding 52% nama laki-laki

11%

Total perbandingan CV dan lowongan dalam studi tersebut

3 juta+

Konteksnya Amerika, dengan nama-nama Amerika. Tapi mekanismenya berlaku di mana saja: model menangkap sinyal yang nggak ada hubungannya dengan kemampuan kerja. Di Indonesia, CV sering memuat foto, umur, status pernikahan, alamat, sampai nama kampus. Semua itu bisa jadi sinyal yang ikut "dinilai" tanpa disengaja.

Aturan yang relevan

Di Indonesia, UU Pelindungan Data Pribadi Pasal 10 ayat 1 memberi subjek data hak untuk mengajukan keberatan atas pengambilan keputusan yang hanya didasarkan pada pemrosesan otomatis, termasuk pemrofilan, yang menimbulkan akibat hukum atau berdampak signifikan. Ketentuan lebih lanjutnya diatur lewat peraturan pemerintah. Ditolak dari sebuah lowongan bisa dianggap berdampak signifikan bagi pelamar, jadi keputusan akhir sebaiknya tetap di tangan manusia. Ini orientasi, bukan nasihat hukum.

Sebagai perbandingan, Annex III AI Act Uni Eropa menggolongkan sistem AI untuk rekrutmen dan seleksi, termasuk yang menganalisis dan menyaring lamaran serta menilai kandidat, sebagai sistem berisiko tinggi. Itu aturan Eropa, tapi menunjukkan bagaimana regulator memandang penggunaan AI di rekrutmen.

Cara memakai AI di rekrutmen dengan lebih aman

AI tetap bisa sangat membantu, asal perannya tepat. Ini saranku:

1. Tulis kriterianya dulu, berdasarkan pekerjaannya. Keterampilan, pengalaman, dan syarat yang memang dibutuhkan. Tanpa kriteria tertulis, AI akan menebak sendiri apa yang dianggap "bagus".
2. Pakai AI untuk merangkum, bukan memberi peringkat akhir. Minta AI mencocokkan setiap CV dengan kriteria tertulis dan menunjukkan buktinya, bukan memberi skor 1 sampai 100.
3. Hapus informasi yang nggak relevan sebelum diproses: nama, foto, umur, status pernikahan, dan alamat.
4. Manusia membaca semua kandidat yang lolos, plus sampel acak yang ditolak. Kalau ada kandidat bagus di tumpukan yang ditolak, berarti penyaringnya perlu dicek.
5. Uji bias sederhana. Ambil satu CV, ganti nama, umur, atau kampusnya, lalu lihat apakah hasilnya berubah. Kalau berubah, jangan dipakai dulu.
6. Beri tahu pelamar bahwa AI membantu proses penyaringan, dan sediakan jalur untuk meminta peninjauan oleh manusia.
7. Jaga data pelamar. Jangan menempelkan CV ke akun AI pribadi, simpan seperlunya, dan hapus setelah prosesnya selesai.

Soal akun pribadi dan data sensitif, aku bahas lebih rinci di Mau Rekap Data Keuangan Perusahaan ke ChatGPT? Bahaya Nggak Sih?. Dan pembagian tugas antara AI dan manusia yang dipakai di sini sama dengan yang ada di Di Titik Mana Manusia Harus Tetap Ngecek Hasil AI dan Automation: keputusan yang berdampak besar pada orang tetap diambil manusia.

Penutup

AI bisa memangkas waktu membaca ratusan CV, tapi jangan sampai ia ikut memangkas kesempatan orang secara diam-diam. Biarkan AI merangkum dan mencocokkan dengan kriteria yang jelas, hapus sinyal yang nggak relevan, uji hasilnya, dan biarkan manusia yang memutuskan.

Kalau kamu ingin merapikan proses rekrutmen dengan bantuan AI tanpa menambah risiko, cerita aja dulu prosesnya sekarang.