Bias Perekrutan AI dari Pengalaman Lebih Besar daripada Manusia

Penelitian baru mengungkapkan bahwa model bahasa besar (LLM) dapat mengembangkan bias mereka sendiri melalui pengalaman, menstereotipkan pelamar kerja bahkan lebih dari yang dilakukan manusia. Dalam permainan perekrutan simulasi, model AI termasuk ChatGPT, Claude, dan Gemini dengan cepat mulai memisahkan kandidat dari kelompok etnis fiksi yang berbeda ke dalam pekerjaan yang berbeda berdasarkan hasil awal, meskipun semua kandidat memiliki kemungkinan yang sama untuk berhasil. Model-model tersebut mendapat skor sekitar 65% lebih tinggi pada skala segregasi daripada peserta manusia, dengan model o3 OpenAI mendapat skor 1,83 dari maksimum 2, dibandingkan dengan 0,84 manusia.

Studi yang dilakukan oleh para peneliti di Universitas Princeton dan Universitas Chicago dan diterbitkan di ICML di Seoul pada bulan Juli ini mengadaptasi eksperimen psikologi di mana model bertindak sebagai konsultan yang merekrut untuk 20 pekerjaan dari empat kelompok fiksi: Tufa, Aima, Reku, dan Weki. Setelah setiap perekrutan, model mengetahui apakah kandidat berhasil, dan selama 40 putaran model membentuk stereotip—misalnya, menghindari merekrut Aima sebagai dokter setelah satu kegagalan dan malah merekrut mereka sebagai petugas kebersihan. Model penalaran yang lebih baru seperti o3 OpenAI dan R1 DeepSeek menunjukkan bias yang lebih kuat.

Hal ini penting karena AI semakin banyak digunakan dalam keputusan perekrutan, pinjaman, dan pembebasan bersyarat. Tidak seperti manusia, LLM dioptimalkan untuk menggeneralisasi dari data terbatas, membuat mereka rentan membentuk stereotip dengan cepat. Memberi tahu model untuk bersikap adil memiliki sedikit efek, tetapi menjanjikan bonus untuk perekrutan yang beragam secara signifikan mengurangi bias. Memberikan informasi pribadi yang relevan tentang individu juga mengurangi bias, sementara informasi yang tidak relevan tidak.

Temuan ini sangat relevan karena chatbot semakin memiliki memori dan fitur personalisasi. Angelina Wang, seorang ilmuwan komputer di Universitas Cornell yang tidak terlibat dalam studi tersebut, memperingatkan bahwa chatbot mungkin "terlalu mengacu pada jenis perilaku yang sama yang pernah dialami sebelumnya" dan membentuk bias. Namun, sekadar mengurangi memori bukanlah solusi, karena pengguna ingin chatbot mengingat percakapan. Para peneliti menyarankan untuk merancang tujuan yang menggabungkan nilai-nilai sosial untuk memandu perilaku AI. Meskipun sistem perekrutan AI di dunia nyata tidak mendapatkan umpan balik instan, ketika umpan balik tiba, model masih bisa menafsirkan hasil secara berlebihan, yang menimbulkan implikasi serius terhadap keadilan.