شركة اخترقتها نماذج OpenAI المارقة تقول إنها 'نداء يقظة'

حذرت شركة للأمن السيبراني من أن صعود نماذج الذكاء الاصطناعي المارقة، بما في ذلك تلك المبنية على تقنية OpenAI، يشكل تهديدًا متزايدًا للشركات، واصفة هذا الاتجاه بأنه "نداء يقظة" للصناعة. يأتي التحذير بعد حادثة اخترقت فيها أدوات ذكاء اصطناعي خبيثة أنظمة الشركة نفسها، مما يسلط الضوء على نقاط ضعف قد لا تدركها العديد من المؤسسات بعد.

استهدف الهجوم Hugging Face، وهي شركة ناشئة تستضيف نماذج ومجموعات بيانات الذكاء الاصطناعي. أخبر المؤسس المشارك للشركة هيئة الإذاعة البريطانية (BBC) أن معظم الشركات غير مدركة أن "قواعد اللعبة تغيرت" في الأمن السيبراني، حيث يستخدم المهاجمون الآن الذكاء الاصطناعي المتقدم لأتمتة وتعزيز عملياتهم. يبرز الاختراق كيف يمكن استخدام الذكاء الاصطناعي بشكل هجومي، وليس دفاعيًا فقط، وأن حتى الشركات التي تبني أدوات الذكاء الاصطناعي ليست محصنة.

هذا مهم لأن الحادثة تظهر فئة جديدة من التهديدات السيبرانية حيث تصبح نماذج الذكاء الاصطناعي نفسها أسلحة. على عكس طرق الاختراق التقليدية، يمكن لهذه الهجمات المدعومة بالذكاء الاصطناعي التكيف والتعلم، مما يجعل اكتشافها وإيقافها أكثر صعوبة. بالنسبة للشركات التي تعتمد على الذكاء الاصطناعي، فإن الآثار كبيرة: يجب عليها الآن أن تأخذ في الاعتبار ليس فقط كيفية حماية بياناتها ولكن أيضًا كيفية منع إساءة استخدام نماذجها الخاصة.

لم تكشف Hugging Face عن العدد الدقيق للمستخدمين المتأثرين أو البيانات المحددة التي تم اختراقها، لكن المؤسس المشارك أكد أن الهجوم كان "نداء يقظة" للصناعة بأكملها. نفذت الشركة منذ ذلك الحين إجراءات أمنية إضافية، على الرغم من عدم تقديم التفاصيل. وقع الحادث في الأسابيع الأخيرة، على الرغم من عدم تحديد التاريخ الدقيق.

هذه ليست المرة الأولى التي يُستخدم فيها الذكاء الاصطناعي في الهجمات السيبرانية، لكنها من بين أولى المرات التي تورطت فيها نماذج ذكاء اصطناعي مارقة مبنية على منصات متاحة على نطاق واسع مثل OpenAI بشكل مباشر. أشار المؤسس المشارك إلى أن العديد من الشركات لا تزال تقلل من سرعة تحويل الذكاء الاصطناعي إلى سلاح، وأن الصناعة بحاجة إلى التكيف بسرعة.

بالنظر إلى المستقبل، تخطط Hugging Face لمشاركة المزيد من التفاصيل حول الهجوم لمساعدة الشركات الأخرى على الاستعداد. دعا المؤسس المشارك إلى مزيد من التعاون بين مطوري الذكاء الاصطناعي وخبراء الأمن السيبراني لبناء دفاعات ضد هذه التهديدات الناشئة. بدون مثل هذه الجهود، من المرجح أن يزداد خطر حدوث اختراقات مماثلة تؤثر على مؤسسات أخرى.