اشترك عمالقة التكنولوجيا في "دعوة كرايستشيرش" لمعالجة انتشار المحتوى المتطرف

سلطت هجمات كرايستشيرش الإرهابية ، التي قُتل فيها 51 شخصًا ، وأصيب 50 آخرون ، الضوء على قلق جديد في دوائر الإعلام الرقمي - وهو أن المنصات الرقمية ، والشبكات الاجتماعية على وجه الخصوص ، تغذي الانقسامات المجتمعية الرئيسية والحركات السرية ، والتي يمكن أن تؤدي إلى عواقب مأساوية. .

ركز الكثير من التركيز على المحتوى المتطرف في الماضي على التطرف من قبل الجماعات الإرهابية القائمة ، لكن هجمات كرايستشيرش أكدت على أهمية الإشارة أيضًا إلى ظهور خطاب الكراهية المحلي ، والذي يمكن أن يؤدي إلى شكل آخر من أشكال التطرف تمامًا. يمكن أن يُعزى هذا التحول جزئيًا على الأقل إلى وسائل التواصل الاجتماعي ، ومشاركة الخوارزميات التي تُظهر للمستخدمين المزيد مما يحلو لهم - ومن المحتمل أن يتفقوا معه - وأقل مما لا يريدون ، مما يؤدي إلى مزيد من الانحراف ، منظور غير متوازن.

أضف إلى ذلك حقيقة أن مهاجم كرايستشيرش قد قام ببث مباشر لأفعاله على Facebook ، وأصبح الارتباط بين وسائل التواصل الاجتماعي ومثل هذه الحركات واضحًا بشكل متزايد.

إذن ما الذي يمكن عمله لمعالجة هذه المشكلة؟

هذا الأسبوع ، حضر ممثلون من F acebook و Twitter و Microsoft و Google و Amazon اجتماعًا في باريس لمناقشة الخطوات التالية التي يمكنهم اتخاذها للحد من انتشار الإرهاب والتطرف عبر الإنترنت. نتيجة الاجتماع ، الذي استضافه الرئيس الفرنسي إيمانويل ماكرون ورئيسة الوزراء النيوزيلندية جاسيندا أرديرن ، هو "نداء كرايستشيرش" ، وهي استراتيجية من تسع نقاط "تحدد الخطوات الملموسة التي ستتخذها الصناعة لمعالجة إساءة استخدام التكنولوجيا. لنشر محتوى إرهابي ".

حسب الموقع الرسمي:

"نداء كرايستشيرش هو التزام من قبل الحكومات وشركات التكنولوجيا للقضاء على المحتوى الإرهابي والمتطرف العنيف على الإنترنت. وهو يقوم على الاقتناع بأن الإنترنت المجاني والمفتوح والآمن يقدم فوائد غير عادية للمجتمع. واحترام حرية التعبير أمر أساسي. ومع ذلك ، لا يحق لأي شخص إنشاء محتوى إرهابي ومتطرف عنيف ومشاركته عبر الإنترنت ".

عناصر نداء كرايستشيرش التي وافق عليها جميع الحاضرين هي كالتالي:

• شروط الاستخدام المحدثة - ستقوم شركات التكنولوجيا العملاقة بتحديث شروط الاستخدام الخاصة بها إلى " الحظر الصريح لتوزيع المحتوى الإرهابي والمتطرف العنيف". لقد رأينا بالفعل الخطوات الأولى لهذا من Facebook ، الذي حظر مؤخرًا العديد من المعلقين السياسيين المعروفين بموجب سياسة خطاب الكراهية ، ويمكنك توقع المزيد على هذا المنوال حيث تطبق المنصات الأخرى قواعد أكثر صرامة على المحتوى الذي يحرض على الكراهية.
• تحسين عمليات الإبلاغ عن المحتوى المتطرف - يلتزم الموقعون بإنشاء طرق جديدة داخل منصاتهم وخدماتهم للمستخدمين للإبلاغ عن المحتوى غير اللائق أو الإبلاغ عنه. ستسعى الشركات أيضًا إلى ضمان أن تكون آليات الإبلاغ واضحة وسهلة الاستخدام ، وتوفر ما يكفي من التفاصيل الفئوية لمساعدة فرقهم في تحديد الأولويات والتصرف على الفور بشأن المخاوف ذات الصلة.
• تحسين التكنولوجيا - التزم الموقعون على الاتفاقية بمواصلة الاستثمار في التكنولوجيا المتقدمة لاكتشاف وإزالة المحتوى المتطرف ، بما في ذلك التطوير المستمر لأدوات التعرف المرئي. خصص Facebook مبلغًا إضافيًا قدره 7.5 مليون دولار لمثل هذه الأبحاث في وقت سابق من هذا الأسبوع.
• تركيز مخصص على مخاطر البث المباشر - كما لوحظ ، استخدم مهاجم كرايستشيرش Facebook Live لبث أفعاله عبر الإنترنت ، مما يسلط الضوء على قلق كبير بشأن قدرة البث المباشر على وجه الخصوص. التزم الموقعون بتنفيذ "إجراءات تدقيق محسّنة (مثل تقييمات أو نتائج البث ، أو نشاط الحساب ، أو عمليات التحقق) والإشراف على بعض أحداث البث المباشر عند الاقتضاء". نظرًا لطبيعة المحتوى المباشر ، يعد هذا مجالًا صعبًا للرقابة عليه ، وستكون هناك حاجة إلى مزيد من الإجراءات لمعالجة المخاوف المحتملة.
• تقارير الشفافية - التزم الموقعون أيضًا بنشر تحديثات منتظمة فيما يتعلق باكتشاف وإزالة المحتوى الإرهابي أو المتطرف العنيف على منصاتهم وخدماتهم.

بالإضافة إلى هذه التدابير الخاصة بالمنصة ، سيتم تطبيق النقاط الأربع التالية على نطاق أوسع عبر الشركات.

• تطوير التكنولوجيا المشتركة - التزم الموقعون بالعمل بشكل تعاوني عبر الصناعة والحكومة والمؤسسات التعليمية والمنظمات غير الحكومية "لتطوير فهم مشترك للسياقات التي يتم فيها نشر المحتوى الإرهابي والمتطرف العنيف ولتحسين التكنولوجيا لاكتشاف وإزالة الإرهاب والعنف المحتوى المتطرف بشكل أكثر فعالية وكفاءة ". من خلال العمل الجماعي ، ستكون الشركات قادرة على تطوير أدواتها وعملياتها بشكل أسرع ، وتعزيز تدابير السلامة.
• بروتوكولات الأزمات - سيعمل الموقعون أيضًا بشكل تعاوني لإنشاء بروتوكول للاستجابة للأحداث الناشئة أو النشطة على أساس عاجل ، لضمان مشاركة المعلومات ذات الصلة بسرعة ، والتصرف بناءً عليها من قبل جميع أصحاب المصلحة بأقل تأخير.
• التعليم - سيعمل الموقعون أيضًا بشكل تعاوني عبر الصناعة والحكومة والمؤسسات التعليمية والمنظمات غير الحكومية "للمساعدة في فهم وتثقيف الجمهور حول المحتوى العنيف الإرهابي والمتطرف عبر الإنترنت". ستشمل العملية تثقيف المستخدمين وتذكيرهم بكيفية الإبلاغ أو عدم المساهمة بطريقة أخرى في انتشار المحتوى المتطرف.
• مكافحة الكراهية والتعصب الأعمى- أخيرًا ، التزم الموقعون بالعمل بشكل تعاوني لتقديم دعم أكبر للبحوث ذات الصلة من أجل اكتشاف ومعالجة الأسباب الجذرية للتطرف والكراهية. من الواضح أن هذا هدف أكبر بكثير ، ولكن مع الموارد المشتركة لعمالقة التكنولوجيا ، يمكن تحقيق تقدم كبير ، والذي يمكن أن يكون خطوة كبيرة.

ليس هناك شك في أن هناك زيادة في الكراهية عبر الإنترنت ، وتراجع في الخطاب المدني في الآونة الأخيرة - والذي ، كما لوحظ ، يجب أن يُعزى جزئيًا على الأقل إلى خوارزميات المشاركة التي تستخدمها المنصات الاجتماعية لتعزيز المشاركة ، والتي تسهل أيضًا التصفية الفقاعات ، مما يؤدي إلى وجهات نظر منحرفة بشكل متزايد. هذا هو العنصر الذي يجب معالجته بشكل عاجل - كيف تغير المنصات الاجتماعية أنظمة المشاركة الخاصة بها لتقليل التركيز على المحتوى الذي يحفز الانقسام؟

على سبيل المثال ، يكافئ Facebook المنشورات التي ترى المزيد من المشاركة (مثل التعليقات والمشاركات وردود الفعل) مع زيادة الوصول ، مما يعزز توزيعها وعرضها بين مستخدمي المنصة البالغ عددهم 2.38 مليار مستخدم.

ما المنشور الذي سيلهم المزيد من التعليقات - مقال بعنوان "يتفق الخبراء على ضرورة اتخاذ إجراء عاجل بشأن تغير المناخ" أو مقال يقول "تغير المناخ هو أسطورة مصممة لكسب المال للشركات العالمية"؟

تحفز خوارزمية Facebook على الإثارة - الناشرون الذين يلعبون لعبة Facebook يفوزون من خلال نشر وجهات نظر أكثر إثارة للانقسام والتطرف. أضف إلى ذلك حقيقة أنه بمجرد عرض المحتوى الذي تهتم به ، سيعرض لك Facebook المزيد من الشيء نفسه ، من أجل الحفاظ على مشاركتك ، ومن الواضح أن خوارزمية Facebook مسؤولة جزئيًا على الأقل عن مثل هذه الانقسامات ، والخوارزميات اللاحقة المطبقة على الأنظمة الأساسية الأخرى تتبع عملية مشابهة جدًا.

هذا عنصر أساسي يجب معالجته ، وهو غير مذكور على وجه التحديد في نداء كرايستشيرش. تعد حقيقة أن الشركات قد التزمت باتخاذ إجراءات خطوة إيجابية ، ولكن الأنظمة ذاتها هي التي جعلت المنصات الاجتماعية تشارك بشكل متزايد والتي تعد أيضًا جزءًا من سبب هذه المخاوف المرتبطة.