Yapay zeka, deneyim yoluyla insanlardan daha fazla işe alım önyargısı geliştiriyor

Yeni araştırma, büyük dil modellerinin (LLM'ler) deneyim yoluyla kendi önyargılarını geliştirebileceğini ve iş başvuranlarını insanlardan bile daha fazla kalıpyargılara soktuğunu ortaya koyuyor. Simüle edilmiş bir işe alım oyununda, ChatGPT, Claude ve Gemini dahil AI modelleri, tüm adayların başarılı olma olasılığı eşit olmasına rağmen, erken sonuçlara dayanarak farklı hayali etnik gruplardan adayları hızla farklı işlere ayırmaya başladı. Modeller, bir ayrışma ölçeğinde insan katılımcılardan yaklaşık %65 daha yüksek puan alırken, OpenAI'in o3 modeli maksimum 2 üzerinden 1,83 puan alırken, insanlar 0,84 puan aldı.

Princeton Üniversitesi ve Chicago Üniversitesi'ndeki araştırmacılar tarafından yürütülen ve Temmuz ayında Seul'deki ICML'de yayınlanan çalışma, modellerin dört hayali gruptan (Tufa, Aima, Reku ve Weki) 20 iş için danışman olarak işe alım yaptığı bir psikoloji deneyini uyarladı. Her işe alımdan sonra model, adayın başarılı olup olmadığını öğrendi ve 40 tur boyunca modeller kalıpyargılar oluşturdu; örneğin, bir başarısızlıktan sonra Aima'ları doktor olarak işe almaktan kaçınıp onları temizlikçi olarak işe aldı. OpenAI'in o3'ü ve DeepSeek'in R1'i gibi daha yeni akıl yürütme modelleri daha da güçlü önyargılar gösterdi.

Bu önemlidir çünkü yapay zeka giderek daha fazla işe alım, borç verme ve şartlı tahliye kararlarında kullanılıyor. İnsanların aksine, LLM'ler sınırlı verilerden genelleme yapacak şekilde optimize edilmiştir, bu da onları hızla kalıpyargılar oluşturmaya yatkın hale getirir. Modele adil olmasını söylemek çok az etki yaratırken, çeşitli işe alım için ikramiye vaat etmek önyargıyı önemli ölçüde azalttı. Bireyler hakkında ilgili kişisel bilgiler sağlamak da önyargıyı azaltırken, ilgisiz bilgiler azaltmadı.

Bulgular, sohbet robotları hafıza ve kişiselleştirme özellikleri kazandıkça özellikle önemlidir. Cornell Üniversitesi'nden çalışmaya dahil olmayan bilgisayar bilimci Angelina Wang, sohbet robotlarının "daha önce deneyimlediği aynı tür davranışlara aşırı ağırlık verebileceği" ve önyargılar oluşturabileceği konusunda uyarıyor. Ancak, hafızayı azaltmak bir çözüm değil, çünkü kullanıcılar sohbet robotlarının konuşmaları hatırlamasını istiyor. Araştırmacılar, AI davranışını yönlendirmek için sosyal değerleri içeren hedefler tasarlamayı öneriyor. Gerçek dünyadaki AI işe alım sistemleri anında geri bildirim almazken, geri bildirim geldiğinde modeller yine de sonuçları aşırı yorumlayabilir ve bu da adalet açısından ciddi sonuçlar doğurabilir.