AI rozwija uprzedzenia rekrutacyjne na podstawie doświadczenia bardziej niż ludzie

Nowe badania ujawniają, że duże modele językowe (LLM) mogą rozwijać własne uprzedzenia poprzez doświadczenie, stereotypizując kandydatów do pracy nawet bardziej niż ludzie. W symulowanej grze rekrutacyjnej modele AI, w tym ChatGPT, Claude i Gemini, szybko zaczęły segregować kandydatów z różnych fikcyjnych grup etnicznych do różnych zawodów na podstawie wczesnych wyników, mimo że wszyscy kandydaci mieli takie same szanse na sukces. Modele uzyskały około 65% wyższy wynik na skali segregacji niż ludzcy uczestnicy, a model o3 od OpenAI uzyskał 1,83 na maksymalnie 2 punkty, w porównaniu do 0,84 u ludzi.

Badanie przeprowadzone przez naukowców z Princeton University i University of Chicago, opublikowane na ICML w Seulu w lipcu, zaadaptowało eksperyment psychologiczny, w którym modele działały jako konsultanci zatrudniający na 20 stanowisk z czterech fikcyjnych grup: Tufa, Aima, Reku i Weki. Po każdym zatrudnieniu model dowiadywał się, czy kandydat odniósł sukces, a po 40 rundach modele wykształciły stereotypy – na przykład unikanie zatrudniania Aimas jako lekarzy po jednej porażce i zatrudnianie ich jako woźnych. Nowsze modele rozumujące, takie jak o3 od OpenAI i R1 od DeepSeek, wykazały jeszcze silniejsze uprzedzenia.

Ma to znaczenie, ponieważ AI jest coraz częściej wykorzystywane w decyzjach rekrutacyjnych, kredytowych i dotyczących zwolnień warunkowych. W przeciwieństwie do ludzi, LLM są zoptymalizowane do uogólniania na podstawie ograniczonych danych, co czyni je podatnymi na szybkie tworzenie stereotypów. Nakazanie modelowi bycia sprawiedliwym miało niewielki efekt, ale obietnica premii za różnorodne zatrudnianie znacznie zmniejszyła uprzedzenia. Dostarczenie odpowiednich informacji osobistych o jednostkach również zmniejszyło uprzedzenia, podczas gdy nieistotne informacje nie miały wpływu.

Wnioski są szczególnie istotne, ponieważ chatboty zyskują funkcje pamięci i personalizacji. Angelina Wang, informatyk z Cornell University niezaangażowana w badanie, ostrzega, że chatboty mogą „nadmiernie opierać się na tych samych rodzajach zachowań, które wcześniej doświadczyły” i tworzyć uprzedzenia. Jednak samo ograniczenie pamięci nie jest rozwiązaniem, ponieważ użytkownicy chcą, aby chatboty pamiętały rozmowy. Naukowcy sugerują projektowanie celów, które uwzględniają wartości społeczne, aby kierować zachowaniem AI. Chociaż rzeczywiste systemy rekrutacyjne AI nie otrzymują natychmiastowej informacji zwrotnej, gdy taka informacja się pojawi, modele mogą nadinterpretować wyniki, co ma poważne implikacje dla sprawiedliwości.