انتقادات عنيفة لفيسبوك بسبب ضعف الخوارزميات في اكتشاف المحتوى الضار

في مفاجأة جديدة حول سلسلة إخفاق شركة Facebook فيسبوك في جعل منصتها مكانا آمنا للمستخدمين، انتقد عدد من المراقبين الشركة بسبب خيبة أملهم عن السيطرة على المحتوى الضار والعنيف وخطاب الكراهية بسبب ضعف خوارزمياتها. ودافع جاى روزين، نائب رئيس النزاهة في شركة فيسبوك عن أن انتشار خطاب الكراهية على المنصة قد انخفض بنسبة 50 % على مدار السنوات الثلاث الماضية ، وأن "السرد القائل بأن التكنولوجيا التي يتم استخدامها لمحاربة خطاب الكراهية غير كافية كان خطأ". وأضاف  روزين: "لا نريد أن نرى الكراهية على منصتنا ، ولا يفعلها المستخدمون أو المعلنون لدينا ، ونحن نتحلى بالشفافية بشأن عملنا لإزالتها".

وأشار إلى أن "ما توضحه الوثائق هو أن عمل النزاهة لدينا هو رحلة متعددة السنوات، في حين أننا لن نكون مثاليين أبدًا ، حيث تعمل فرقنا باستمرار على تطوير أنظمتنا وتحديد المشكلات وبناء الحلول وانتقد تقرير من صحيفة وول ستريت جورنال شركة فيسبوك، حيث قالت الصحيفة إن المستندات الداخلية في الشركة  تظهر أنه قبل عامين ، قلصت فيسبوك الوقت الذي يركز فيه المراجعون البشريون على شكاوى خطاب الكراهية ، وأجرى تعديلات أخرى قللت من عدد الشكاوى.وأكدت الصحيفة أن هذا بدوره ساعد في خلق مظهر أن الذكاء الاصطناعي لفيسبوك على أنه كان أكثر نجاحًا في تطبيق قواعد الشركة مما كان عليه في الواقع .

واكتشف فريق من موظفي فيسبوك في مارس الماضى أن الأنظمة الآلية للشركة كانت تزيل المنشورات التي ولّدت ما بين 3 و 5 %  من مشاهدات خطاب الكراهية على المنصة الاجتماعية ، وأقل من 1 % من جميع المحتويات التي كانت تنتهك قواعدهالكن روزين جادل بأن التركيز على إزالة المحتوى وحده كان "طريقة خاطئة للنظر في كيفية محاربة الشركة لخطاب الكراهية، حيث ويقول إن تقنية إزالة الكلام الذي يحض على الكراهية هي مجرد طريقة واحدة يستخدمها فيسبوك لمحاربته. لكن الوثائق الداخلية التي حصلت عليها وول ستريت جورنال أظهرت أن بعض الأجزاء المهمة من المحتوى كانت قادرة على التهرب من اكتشاف فيسبوك ، بما في ذلك مقاطع فيديو لحوادث السيارات التي أظهرت أشخاصًا يعانون من إصابات مصورة وتهديدات عنيفة ضد الأطفال المتحولين جنسيًا.

قد يهمك ايضًا:

فيسبوك تعتزم خلق وظائف في الاتحاد الأوروبي على مدى الـ5 سنوات المقبلة

فيسبوك تختبر خدمة جديدة في 80 دولة وتعلن تقليل "أخبار السياسية "