حواجز الذكاء الاصطناعي تعيق أبحاث الأمن السيبراني الهجومية، كما يقول الباحثون

يكشف تقرير جديد أن حواجز الذكاء الاصطناعي التي تنفذها شركات مثل OpenAI وAnthropic تعيق عمل الباحثين في الأمن السيبراني الهجومي. هؤلاء الباحثون، الذين يبحثون عن ثغرات غير معروفة ويطورون أدوات لاستغلالها، يقولون إن القيود الأمنية على نماذج الذكاء الاصطناعي تحد من قدرتهم على اختبار وتحسين أنظمة الأمن.

الباحثون المتأثرون هم أولئك المتخصصون في الأمن السيبراني الهجومي، المعروف أيضًا باسم القرصنة الأخلاقية أو اختبار الاختراق. يتضمن عملهم إيجاد عيوب في البرامج والشبكات قبل أن يتمكن الجهات الخبيثة من استغلالها. ومع ذلك، عندما يستخدمون نماذج الذكاء الاصطناعي للمساعدة في هذا العمل، غالبًا ما يواجهون حواجز تمنع أو تقيد استفساراتهم، مما يبطئ أبحاثهم.

هذا مهم لأن أبحاث الأمن السيبراني الهجومية ضرورية لتحديد الثغرات وإصلاحها. إذا لم يتمكن الباحثون من استخدام أدوات الذكاء الاصطناعي بفعالية، فقد يؤدي ذلك إلى ترك الأنظمة أكثر عرضة للهجمات الحقيقية. الحواجز، المصممة لمنع سوء الاستخدام، تعيق عن غير قصد العمل الأمني المشروع.

وفقًا للتقرير، أبلغ الباحثون أن نماذج الذكاء الاصطناعي رفضت إنشاء كود للاستغلال أو تقديم معلومات عن الثغرات المعروفة، حتى عندما كان القصد دفاعيًا. تشمل الأمثلة المحددة نماذج تمنع طلبات كود إثبات المفهوم أو التقنيات المستخدمة في اختبار الاختراق. لم يقدم التقرير أرقامًا دقيقة لكنه أبرز حالات متعددة تداخلت فيها الحواجز مع البحث.

الخلفية لهذه المشكلة هي التوتر المستمر بين سلامة الذكاء الاصطناعي وفائدته. شركات مثل OpenAI وAnthropic نفذت حواجز لمنع استخدام نماذجها لأغراض ضارة، مثل توليد برمجيات خبيثة أو المساعدة في الهجمات الإلكترونية. ومع ذلك، يمكن لهذه القيود نفسها أن تلتقط الأبحاث الأمنية المشروعة.

بالنظر إلى المستقبل، يشير التقرير إلى أن شركات الذكاء الاصطناعي قد تحتاج إلى تطوير حواجز أكثر دقة يمكنها التمييز بين الاستخدامات الخبيثة والدفاعية. بعض الباحثين يدعون إلى وصول خاص أو واجهات برمجة تطبيقات لمحترفي الأمن المعتمدين. بدون تغييرات، قد تتعرض فعالية أبحاث الأمن السيبراني الهجومية للخطر، مما قد يزيد من خطر استغلال الثغرات غير المكتشفة من قبل الجهات الخبيثة.