لقد رأينا جميعاً انتشار محتوى إثاري ومقسم وكاذب على الإنترنت يتعلق بالصراع بين إسرائيل وحماس. رداً على ذلك، دعت الصحفيون والمنظمون والسياسيون ومجموعات المجتمع المدني شركات وسائل التواصل الاجتماعي إلى زيادة جهود مراقبة المحتوى، والتي تتضمن العثور على ومعالجة حالات فردية من المحتوى الذي ينتهك سياسات المنصة. لقد عملت لأكثر من 4 سنوات في ميتا على تحسين تأثير المنصة على العديد من الصراعات. منذ تركي، ركزت على تصميم المنصة، جزئياً لأن حدود مراقبة المحتوى أكثر حدة عندما تكون المخاطر أعلى.
هنا مثال على محتوى من الصراع الحالي تم توضيحه على أنه كاذب في صحيفة نيويورك تايمز.
وفي الواقع، عندما تعتمد المنصات على المراقبة، فإنها غالبًا ما تخلق مشاكل جديدة. نعرف من التجربة السابقة أن زيادة التنفيذ في الصراع الإسرائيلي الفلسطيني قد أدت إلى تقارير موثوق بها عن الرقابة والتحيز. عندما يتم تطبيقها بعناية على حالات واضحة محددة من المحتوى الضار (مثل صورة مضللة)، فإن المراقبة هي أداة مهمة. لكن معظم حالات المحتوى الضار ليست واضحة، وعندما يتم توسيع نطاق المراقبة كتدبير طارئ لمعالجة مجموعة أوسع من المحتوى الضار حيث تتطلب الأحكام مزيدًا من الدقة والذاتية، فمن المرجح أن تتم ارتكاب الأخطاء.
لذلك، غالبًا ما تعتمد الشركات على تدابير “كسر الزجاج” المحايدة لمواجهة الأزمات. يمكننا الاستفادة من هذه الجهود لاقتراح بدائل عن التركيز على مراقبة المحتوى التي لا تعتمد على قواعد صارمة حول ما هو جيد أو سيئ من المحتوى.