Les biais de recrutement de l'IA issus de l'expérience sont plus forts que ceux des humains

Une nouvelle recherche révèle que les grands modèles de langage (LLM) peuvent développer leurs propres biais par l'expérience, stéréotypant les candidats encore plus que les humains. Dans un jeu de recrutement simulé, les modèles d'IA, dont ChatGPT, Claude et Gemini, ont rapidement commencé à séparer les candidats de différents groupes ethniques fictifs dans différents emplois en fonction des résultats précoces, bien que tous les candidats aient une probabilité égale de réussir. Les modèles ont obtenu un score environ 65 % plus élevé sur une échelle de ségrégation que les participants humains, le modèle o3 d'OpenAI obtenant 1,83 sur un maximum de 2, contre 0,84 pour les humains.

L'étude, menée par des chercheurs de l'Université de Princeton et de l'Université de Chicago et publiée à l'ICML à Séoul en juillet, a adapté une expérience de psychologie où les modèles agissaient en tant que consultants recrutant pour 20 emplois à partir de quatre groupes fictifs : Tufa, Aima, Reku et Weki. Après chaque embauche, le modèle apprenait si le candidat avait réussi, et au fil de 40 tours, les modèles ont formé des stéréotypes – par exemple, éviter d'embaucher des Aimas comme médecins après un échec et les embaucher plutôt comme concierges. Les modèles de raisonnement plus récents comme o3 d'OpenAI et R1 de DeepSeek ont montré des biais encore plus forts.

Cela est important car l'IA est de plus en plus utilisée dans les décisions d'embauche, de prêt et de libération conditionnelle. Contrairement aux humains, les LLM sont optimisés pour généraliser à partir de données limitées, ce qui les rend enclins à former rapidement des stéréotypes. Dire au modèle d'être équitable a eu peu d'effet, mais promettre une prime pour un recrutement diversifié a considérablement réduit les biais. Fournir des informations personnelles pertinentes sur les individus a également réduit les biais, tandis que les informations non pertinentes n'ont pas eu d'effet.

Les résultats sont particulièrement pertinents alors que les chatbots gagnent en mémoire et en fonctionnalités de personnalisation. Angelina Wang, informaticienne à l'Université Cornell non impliquée dans l'étude, prévient que les chatbots peuvent « sur-indexer les mêmes types de comportements qu'ils ont déjà expérimentés » et former des biais. Cependant, réduire simplement la mémoire n'est pas une solution, car les utilisateurs veulent que les chatbots se souviennent des conversations. Les chercheurs suggèrent de concevoir des objectifs qui intègrent des valeurs sociales pour guider le comportement de l'IA. Bien que les systèmes d'IA de recrutement dans le monde réel ne reçoivent pas de retour instantané, lorsque le retour arrive, les modèles pourraient toujours surinterpréter les résultats, ce qui pose de sérieuses implications pour l'équité.