الذكاء الاصطناعي يطور تحيزات توظيف من التجربة أكثر من البشر

يكشف بحث جديد أن نماذج اللغة الكبيرة (LLMs) يمكنها تطوير تحيزاتها الخاصة من خلال التجربة، حيث تقوم بتنميط المتقدمين للوظائف أكثر من البشر. في لعبة توظيف محاكاة، بدأت نماذج الذكاء الاصطناعي بما في ذلك ChatGPT وClaude وGemini بسرعة في فصل المرشحين من مجموعات عرقية خيالية مختلفة إلى وظائف مختلفة بناءً على النتائج المبكرة، على الرغم من أن جميع المرشحين كانوا متساويين في احتمالية النجاح. سجلت النماذج حوالي 65% أعلى على مقياس الفصل العنصري مقارنة بالمشاركين البشر، حيث سجل نموذج o3 من OpenAI 1.83 من أصل 2، مقارنة بـ 0.84 للبشر.

الدراسة، التي أجراها باحثون في جامعة برينستون وجامعة شيكاغو ونُشرت في ICML في سيول في يوليو، قامت بتكييف تجربة نفسية حيث عملت النماذج كمستشارين يوظفون لـ 20 وظيفة من أربع مجموعات خيالية: توفا، أيما، ريكو، وويكي. بعد كل توظيف، تعلم النموذج ما إذا كان المرشح ناجحًا، وعلى مدار 40 جولة شكلت النماذج قوالب نمطية - على سبيل المثال، تجنب توظيف أيماس كأطباء بعد فشل واحد وبدلاً من ذلك توظيفهم كعمال نظافة. أظهرت نماذج التفكير الأحدث مثل o3 من OpenAI وR1 من DeepSeek تحيزات أقوى.

هذا مهم لأن الذكاء الاصطناعي يُستخدم بشكل متزايد في قرارات التوظيف والإقراض والإفراج المشروط. على عكس البشر، تم تحسين نماذج LLM للتعميم من البيانات المحدودة، مما يجعلها عرضة لتشكيل القوالب النمطية بسرعة. كان لإخبار النموذج بأن يكون عادلاً تأثير ضئيل، لكن الوعد بمكافأة للتوظيف المتنوع قلل التحيز بشكل كبير. كما أدى توفير معلومات شخصية ذات صلة عن الأفراد إلى تقليل التحيز، بينما لم تفعل المعلومات غير ذات الصلة.

النتائج ذات صلة خاصة حيث تكتسب روبوتات الدردشة ميزات الذاكرة والتخصيص. تحذر أنجلينا وانغ، عالمة الكمبيوتر في جامعة كورنيل غير المشاركة في الدراسة، من أن روبوتات الدردشة قد "تفرط في التركيز على نفس أنواع السلوكيات التي شهدتها من قبل" وتشكل تحيزات. ومع ذلك، فإن مجرد تقليل الذاكرة ليس حلاً، حيث يرغب المستخدمون في أن تتذكر روبوتات الدردشة المحادثات. يقترح الباحثون تصميم أهداف تتضمن القيم الاجتماعية لتوجيه سلوك الذكاء الاصطناعي. بينما لا تحصل أنظمة التوظيف بالذكاء الاصطناعي في العالم الحقيقي على ردود فعل فورية، عندما تصل ردود الفعل، قد تبالغ النماذج في تفسير النتائج، مما يشكل آثارًا خطيرة على العدالة.