La IA desarrolla sesgos de contratación a partir de la experiencia más que los humanos

Una nueva investigación revela que los modelos de lenguaje grandes (LLM) pueden desarrollar sus propios sesgos a través de la experiencia, estereotipando a los solicitantes de empleo incluso más que los humanos. En un juego de contratación simulado, los modelos de IA, incluidos ChatGPT, Claude y Gemini, comenzaron rápidamente a segregar a los candidatos de diferentes grupos étnicos ficticios en diferentes trabajos basándose en los resultados iniciales, a pesar de que todos los candidatos tenían la misma probabilidad de éxito. Los modelos obtuvieron aproximadamente un 65% más en una escala de segregación que los participantes humanos, y el modelo o3 de OpenAI obtuvo 1.83 sobre un máximo de 2, en comparación con el 0.84 de los humanos.

El estudio, realizado por investigadores de la Universidad de Princeton y la Universidad de Chicago y publicado en ICML en Seúl en julio, adaptó un experimento psicológico en el que los modelos actuaban como consultores contratando para 20 trabajos de cuatro grupos ficticios: Tufa, Aima, Reku y Weki. Después de cada contratación, el modelo aprendía si el candidato tenía éxito, y a lo largo de 40 rondas los modelos formaban estereotipos, por ejemplo, evitando contratar a Aimas como médicos después de un fracaso y contratándolos como conserjes. Los modelos de razonamiento más nuevos, como o3 de OpenAI y R1 de DeepSeek, mostraron sesgos aún más fuertes.

Esto es importante porque la IA se utiliza cada vez más en decisiones de contratación, préstamos y libertad condicional. A diferencia de los humanos, los LLM están optimizados para generalizar a partir de datos limitados, lo que los hace propensos a formar estereotipos rápidamente. Decirle al modelo que sea justo tuvo poco efecto, pero prometer un bono por contratación diversa redujo significativamente el sesgo. Proporcionar información personal relevante sobre los individuos también redujo el sesgo, mientras que la información irrelevante no lo hizo.

Los hallazgos son especialmente relevantes a medida que los chatbots ganan memoria y funciones de personalización. Angelina Wang, científica informática de la Universidad de Cornell no involucrada en el estudio, advierte que los chatbots pueden "sobreindexar los mismos tipos de comportamientos que han experimentado antes" y formar sesgos. Sin embargo, simplemente reducir la memoria no es una solución, ya que los usuarios quieren que los chatbots recuerden conversaciones. Los investigadores sugieren diseñar objetivos que incorporen valores sociales para guiar el comportamiento de la IA. Si bien los sistemas de contratación de IA del mundo real no reciben retroalimentación instantánea, cuando llega la retroalimentación, los modelos aún podrían sobreinterpretar los resultados, lo que plantea serias implicaciones para la equidad.