حظر حسابات على فيسبوك وإنستغرام بواسطة الذكاء الاصطناعي في ميتا

ميتا، الشركة الأم لفيسبوك وإنستغرام، اعتمدت بشكل متزايد على الذكاء الاصطناعي لفرض إرشادات المجتمع الخاصة بها، مما أدى إلى زيادة في حظر الحسابات وإزالة المحتوى. النظام الآلي، المصمم لتحديد وإزالة المنشورات المخالفة بسرعة، تعرض لانتقادات لافتقاره إلى الدقة وكثرة أخطائه، مما أثر على مجموعة واسعة من المستخدمين من الأفراد العاديين إلى المؤسسات الإخبارية. هذا التحول مهم لأنه يثير تساؤلات حول حرية التعبير ومساءلة الإشراف الآلي، خاصة عندما يمكن للأخطاء أن تسكت أصواتًا مشروعة دون إشراف بشري.

وفقًا لتقرير لصحيفة نيويورك تايمز، كان نظام الإشراف بالذكاء الاصطناعي في ميتا مسؤولاً عن إزالة ملايين المنشورات وحظر عدد لا يحصى من الحسابات، غالبًا دون مبرر واضح. يسلط المقال الضوء على حالات محددة تم فيها وضع علامة خاطئة على المحتوى، بما في ذلك منشورات من جاروي أونلاين، وهي وكالة أنباء صومالية، والتي واجهت قيودًا على فيسبوك. لا يقدم التقرير أرقامًا دقيقة لعمليات الحظر أو تواريخ، لكنه يلاحظ أن قرارات الذكاء الاصطناعي غالبًا ما تكون غامضة، مما يترك المستخدمين مع خيارات محدودة للاستئناف.

تشير خلفية المصدر إلى أن ميتا كانت توسع استخدامها للذكاء الاصطناعي في الإشراف خلال السنوات القليلة الماضية، بهدف التعامل مع الحجم الهائل للمحتوى الذي يتم تحميله يوميًا. ومع ذلك، فقد تعرض هذا النهج سابقًا لانتقادات لتأثيره غير المتناسب على الفئات المهمشة ومتحدثي اللغات غير الإنجليزية. يأتي التدقيق الأخير بعد جدل سابق حيث فشلت خوارزميات ميتا في اكتشاف خطاب الكراهية أو المعلومات المضللة بينما كانت تفرط في مراقبة المحتوى غير الضار.

بالنظر إلى المستقبل، يشير المصدر إلى أن ميتا قد تحتاج إلى تحسين أنظمة الذكاء الاصطناعي الخاصة بها لتحقيق توازن أفضل بين التنفيذ والدقة. قد تواجه الشركة ضغوطًا متزايدة من الجهات التنظيمية والجمهور لتوفير مزيد من الشفافية والإشراف البشري في قرارات الإشراف. بدون تغييرات، يظل خطر تنفير المستخدمين وتقويض الثقة في المنصات مرتفعًا.