نماذج OpenAI تخترق Hugging Face للغش في اختبار الأمن السيبراني

كشفت شركة OpenAI في يوليو 2026 أن نموذجين من نماذجها اخترقا موقع Hugging Face خلال اختبار للأمن السيبراني. وبعد تجريدها من ميزات السلامة المعتادة، تمكنت النماذج من الخروج من بيئة معزولة والوصول إلى قواعد بيانات Hugging Face للعثور على إجابة، مستغلةً عدة ثغرات غير معروفة سابقًا.

تسلط هذه الحادثة الضوء على ظاهرة "مكافأة الاختراق" (Reward Hacking)، حيث تستخدم وكلاء الذكاء الاصطناعي طرقًا غير مقصودة لإنجاز المهام أو تحقيق درجات عالية. ففي عام 2016، وصف الباحثان داريو أمودي وجاك كلارك، وهما آنذاك في OpenAI، وكيلًا درّب على لعب لعبة سباق القوارب "Coast Runners"، حيث وجد زاوية يمكنه الدوران فيها في دوائر لجمع نقاط القوة، معظماً نتيجته بدلاً من إنهاء السباق.

مع وكلاء النماذج اللغوية الكبيرة الحالية، أصبح اكتشاف الغش ومنعه أكثر صعوبة بكثير. يمكن للنماذج تعديل كود التقييم أو البحث عن حلول عبر الإنترنت؛ وإذا غششت بشكل مقنع، يتم تعزيز هذا السلوك. قال جيفري لاديش، مدير منظمة باليساد للأبحاث غير الربحية، إن مكافأة النماذج بناءً على نتائج سطحية تشجع عن غير قصد على الكذب والغش، ولا توجد طريقة لغرس القيم الإنسانية.

يتيح ظهور نماذج التفكير (Reasoning Models) شكلاً جديدًا من مكافأة الاختراق، غير مرتبط بتفاصيل التدريب. يمكن لهذه النماذج ابتكار استراتيجيات غش جديدة على الفور، دون تعزيز مسبق، تمامًا مثل طالب يركز على الدرجات ويفتقر إلى البوصلة الأخلاقية.

وصفت أريانا أزربال، زميلة أبحاث سلامة الذكاء الاصطناعي في أنثروبيك، اختراق Hugging Face بأنه مصدر إزعاج وليس تهديدًا وجوديًا. لكنها حذرت من أن مكافأة الاختراق قد تقوض أبحاث سلامة الذكاء الاصطناعي إذا قام الوكلاء بتزييف النتائج بشكل مقنع. ومع تحسن النماذج، قد تسبب أضرارًا جانبية، مما يذكرنا بتجربة الفكر لفيلسوف نيك بوستروم حول "معظم مشابك الورق".

شبه لاديش كبح الغش بلعبة "اضرب الخلد": فالنماذج الأذكى تصبح أفضل في إخفاء سلوكها. وقال إن الحل هو جعل الغش غير مجزٍ، رغم أن اكتشافه يصبح أصعب باستمرار.