Model AI OpenAI o3 mencatat skor segregasi 1,83 dalam simulasi perekrutan, angka yang mendekati batas maksimum 2. Hasil ini menunjukkan kecenderungan pemisahan kandidat ke jenis pekerjaan tertentu dapat muncul sangat kuat ketika sistem membuat keputusan dari pengalaman awal.
Skor tersebut menjadi perhatian karena perusahaan semakin memakai sistem otomatis untuk menyaring CV dan membantu proses wawancara. Pola penilaian pada tahap awal berisiko memengaruhi cara model memperlakukan kandidat yang datang setelahnya.
Jauh di atas hasil peserta manusia
Penelitian menggunakan skala segregasi dengan nilai 2 sebagai kondisi ketika setiap kelompok sepenuhnya terkonsentrasi pada bidang pekerjaan masing-masing. Studi sebelumnya pada peserta manusia menghasilkan skor rata-rata 0,84.
| Peserta atau model | Skor segregasi | Keterangan |
|---|---|---|
| Peserta manusia | 0,84 | Rata-rata studi sebelumnya |
| Model AI | Sekitar 65% lebih tinggi | Dibandingkan dengan peserta manusia |
| OpenAI o3 | 1,83 | Mendekati nilai maksimum 2 |
Sejumlah model bahasa besar menunjukkan tingkat segregasi sekitar 65 persen lebih tinggi dibandingkan skor peserta manusia. Model dengan kemampuan penalaran lebih tinggi, termasuk OpenAI o3 dan DeepSeek R1, justru memperlihatkan kecenderungan bias yang lebih besar dalam eksperimen tersebut.
Temuan itu tidak menyatakan seluruh sistem rekrutmen di dunia nyata pasti melakukan diskriminasi. Namun, riset ini menyoroti risiko ketika sebuah model menerima umpan balik hasil kerja dan memakai informasi tersebut untuk menentukan pilihan berikutnya.
Instruksi untuk adil belum cukup
Peneliti mendapati instruksi sederhana agar model bersikap adil tidak banyak mengubah hasil simulasi. Perubahan yang lebih nyata baru terlihat saat model memperoleh insentif tambahan untuk melakukan perekrutan yang beragam.
Informasi pribadi yang berkaitan dengan kemampuan kerja, seperti usia dan pendidikan, juga membantu mengurangi segregasi berdasarkan kelompok etnis. Sebaliknya, rincian yang tidak relevan dengan pekerjaan, misalnya warna rambut atau bentuk tato, tidak banyak mengubah kecenderungan model.
Artinya, pengelolaan Bias AI tidak cukup hanya mengandalkan perintah umum dalam sistem. Rancangan insentif, kualitas informasi kandidat, dan cara umpan balik dipakai perlu menjadi bagian dari pengawasan proses seleksi.
Simulasi memakai kelompok etnis fiktif
Riset ini dilakukan ilmuwan dari Princeton University dan University of Chicago melalui simulasi perekrutan yang diadaptasi dari studi psikologi tentang pembentukan stereotip pada 2024. ChatGPT, Claude, Gemini, serta sejumlah model lain diuji menggunakan skenario yang sama.
Dalam simulasi tersebut, setiap model berperan sebagai konsultan wali kota di sebuah kota fiktif. Model harus memilih kandidat untuk 20 jenis pekerjaan, mulai dari dokter dan pengacara hingga pengasuh anak serta petugas kebersihan.
Kandidat dibagi ke dalam empat kelompok etnis fiktif, yaitu Tufa, Aima, Reku, dan Weki. Pada setiap putaran, model menerima empat kandidat dari tiap kelompok dan diminta memilih satu kandidat untuk sebuah posisi.
Setelah menentukan pilihan, model mendapat informasi mengenai keberhasilan kandidat dalam pekerjaannya. Padahal, semua kandidat memiliki peluang keberhasilan yang sama untuk setiap jenis pekerjaan, tetapi fakta itu tidak disampaikan kepada model.
Pengalaman awal yang terbatas kemudian dapat berubah menjadi generalisasi luas. Kegagalan seorang kandidat Aima sebagai dokter, misalnya, dapat membuat model menghindari kandidat Aima lain untuk posisi serupa dan lebih sering menempatkannya pada pekerjaan petugas kebersihan.
Ryan Liu, mahasiswa doktoral Princeton University yang menjadi salah satu penulis riset, mengatakan kepada MIT Technology Review bahwa LLM sangat berani membuat generalisasi dari data terbatas. Menurutnya, kecenderungan tersebut berkaitan dengan optimalisasi model untuk menyelesaikan persoalan matematika, pemrograman, dan sains.
Bagi penggunaan Rekrutmen AI, hasil simulasi ini menegaskan pentingnya menguji dampak umpan balik kinerja sebelum sistem dipakai dalam keputusan tenaga kerja. Pengawasan diperlukan agar pola data awal tidak berkembang menjadi perlakuan yang tidak setara terhadap kandidat berikutnya.
