L'IA sviluppa pregiudizi di assunzione dall'esperienza più degli umani

Una nuova ricerca rivela che i modelli linguistici di grandi dimensioni (LLM) possono sviluppare i propri pregiudizi attraverso l'esperienza, stereotipando i candidati al lavoro ancora più degli umani. In un gioco di assunzione simulato, modelli di IA tra cui ChatGPT, Claude e Gemini hanno rapidamente iniziato a segregare candidati di diversi gruppi etnici fittizi in diversi lavori sulla base dei risultati iniziali, nonostante tutti i candidati avessero la stessa probabilità di successo. I modelli hanno ottenuto un punteggio circa il 65% più alto su una scala di segregazione rispetto ai partecipanti umani, con il modello o3 di OpenAI che ha ottenuto 1,83 su un massimo di 2, rispetto allo 0,84 degli umani.

Lo studio, condotto da ricercatori dell'Università di Princeton e dell'Università di Chicago e pubblicato all'ICML di Seul a luglio, ha adattato un esperimento psicologico in cui i modelli agivano come consulenti che assumevano per 20 lavori da quattro gruppi fittizi: Tufa, Aima, Reku e Weki. Dopo ogni assunzione, il modello apprendeva se il candidato aveva avuto successo e, in 40 round, i modelli formavano stereotipi, ad esempio evitando di assumere Aima come medici dopo un fallimento e assumendoli invece come addetti alle pulizie. I modelli di ragionamento più recenti come o3 di OpenAI e R1 di DeepSeek hanno mostrato pregiudizi ancora più forti.

Questo è importante perché l'IA è sempre più utilizzata nelle decisioni di assunzione, prestito e libertà vigilata. A differenza degli umani, gli LLM sono ottimizzati per generalizzare da dati limitati, rendendoli inclini a formare stereotipi rapidamente. Dire al modello di essere equo ha avuto poco effetto, ma promettere un bonus per assunzioni diversificate ha ridotto significativamente i pregiudizi. Fornire informazioni personali rilevanti sugli individui ha anche ridotto i pregiudizi, mentre informazioni irrilevanti no.

I risultati sono particolarmente rilevanti poiché i chatbot acquisiscono funzionalità di memoria e personalizzazione. Angelina Wang, informatica alla Cornell University non coinvolta nello studio, avverte che i chatbot potrebbero "enfatizzare eccessivamente gli stessi tipi di comportamenti già sperimentati" e formare pregiudizi. Tuttavia, ridurre semplicemente la memoria non è una soluzione, poiché gli utenti vogliono che i chatbot ricordino le conversazioni. I ricercatori suggeriscono di progettare obiettivi che incorporino valori sociali per guidare il comportamento dell'IA. Sebbene i sistemi di assunzione basati sull'IA nel mondo reale non ricevano feedback immediato, quando il feedback arriva, i modelli potrebbero comunque interpretare eccessivamente i risultati, con serie implicazioni per l'equità.