Tech Giants ลงชื่อสมัครใช้ 'Christchurch Call' เพื่อจัดการกับการแพร่กระจายของเนื้อหาหัวรุนแรง

การโจมตีของผู้ก่อการร้ายในเมืองไครสต์เชิร์ชซึ่งมี ผู้เสียชีวิต 51 คนและบาดเจ็บ 50 คนเน้นย้ำถึงความกังวลใหม่ในแวดวงสื่อดิจิทัลโดยเฉพาะอย่างยิ่งแพลตฟอร์มดิจิทัลและเครือข่ายโซเชียลกำลังทำให้เกิดความแตกแยกทางสังคมที่สำคัญและการเคลื่อนไหวใต้ดินซึ่งอาจนำไปสู่ผลลัพธ์ที่น่าเศร้า .

การให้ความสำคัญกับเนื้อหาหัวรุนแรงในอดีตส่วนใหญ่มุ่งเน้นไปที่การก่อความรุนแรงโดยกลุ่มก่อการร้ายที่จัดตั้งขึ้น แต่การโจมตีในไครสต์เชิร์ชเน้นย้ำถึงความสำคัญของการสังเกตการเพิ่มขึ้นของคำพูดแสดงความเกลียดชังที่แปลเป็นภาษาท้องถิ่นซึ่งอาจนำไปสู่รูปแบบอื่นของการทำให้รุนแรงขึ้นโดยสิ้นเชิง การเปลี่ยนแปลงนั้นอย่างน้อยส่วนหนึ่งอาจเป็นผลมาจากโซเชียลมีเดียและอัลกอริทึมการแชร์ซึ่งแสดงให้ผู้ใช้เห็นสิ่งที่พวกเขาชอบมากขึ้นและพวกเขามีแนวโน้มที่จะเห็นด้วย - และสิ่งที่พวกเขาจะไม่ทำน้อยลงซึ่งจะนำไปสู่การบิดเบือนมากขึ้น มุมมองที่ไม่สมดุล

นอกจากนี้ข้อเท็จจริงที่ว่าผู้โจมตีไครสต์เชิร์ชถ่ายทอดสดการกระทำของเขาบน Facebook และการเชื่อมต่อระหว่างโซเชียลมีเดียและการเคลื่อนไหวดังกล่าวมีความชัดเจนมากขึ้น

ดังนั้นสิ่งที่สามารถทำได้เพื่อแก้ไขปัญหานี้?

สัปดาห์นี้ตัวแทนจาก F acebook, Twitter, Microsoft, Google และ Amazon ได้เข้าร่วมการประชุมในปารีสเพื่อหารือเกี่ยวกับขั้นตอนต่อไปที่พวกเขาสามารถทำได้เพื่อยับยั้งการแพร่กระจายของการก่อการร้ายและลัทธิสุดโต่งทางออนไลน์ ผลของการประชุมซึ่งจัดโดยประธานาธิบดีเอ็มมานูเอลมาครงของฝรั่งเศสและจาซินดาอาร์เดิร์นนายกรัฐมนตรีนิวซีแลนด์คือ 'The Christchurch Call' ซึ่งเป็นกลยุทธ์ 9 ประเด็นที่ "กำหนดขั้นตอนที่เป็นรูปธรรมที่อุตสาหกรรมจะดำเนินการเพื่อจัดการกับการละเมิดเทคโนโลยี เพื่อเผยแพร่เนื้อหาของผู้ก่อการร้าย "

ตามเว็บไซต์อย่างเป็นทางการ:

"การเรียกร้องของไครสต์เชิร์ชเป็นความมุ่งมั่นของรัฐบาลและ บริษัท เทคโนโลยีในการกำจัดเนื้อหาของผู้ก่อการร้ายและกลุ่มหัวรุนแรงที่มีความรุนแรงทางออนไลน์โดยขึ้นอยู่กับความเชื่อมั่นว่าอินเทอร์เน็ตที่เสรีเปิดกว้างและปลอดภัยมอบประโยชน์พิเศษแก่สังคมการเคารพเสรีภาพในการแสดงออกเป็นพื้นฐานอย่างไรก็ตาม ไม่มีใครมีสิทธิ์สร้างและแบ่งปันเนื้อหาของผู้ก่อการร้ายและกลุ่มหัวรุนแรงที่มีความรุนแรงทางออนไลน์ "

องค์ประกอบของการโทรไครสต์เชิร์ชซึ่งตกลงกันโดยทุกคนในการเข้าร่วมมีดังต่อไปนี้:

• ข้อกำหนดการใช้งานที่ อัปเดต - ยักษ์ใหญ่ด้านเทคโนโลยีแต่ละรายจะอัปเดตข้อกำหนดการใช้งานเป็น " เพื่อห้ามการเผยแพร่เนื้อหาของผู้ก่อการร้ายและกลุ่มหัวรุนแรงที่มีความรุนแรงโดยชัดแจ้ง" เราได้เห็นขั้นตอนแรกของสิ่งนี้แล้วจาก Facebook ซึ่งเพิ่งแบนผู้แสดงความคิดเห็นทางการเมืองที่มีชื่อเสียงหลายคนภายใต้นโยบายคำพูดแสดงความเกลียดชังและคุณสามารถคาดหวังได้มากขึ้นในบรรทัดเหล่านี้เนื่องจากแพลตฟอร์มอื่น ๆ ใช้กฎที่เข้มงวดกว่าในเนื้อหาที่กระตุ้นความเกลียดชัง
• ปรับปรุงกระบวนการรายงานสำหรับเนื้อหาหัวรุนแรง - ผู้ลงนามมุ่งมั่นที่จะสร้างวิธีการใหม่ภายในแพลตฟอร์มและบริการของตนเพื่อให้ผู้ใช้รายงานหรือตั้งค่าสถานะเนื้อหาที่ไม่เหมาะสม นอกจากนี้ บริษัท ต่างๆจะพยายามตรวจสอบให้แน่ใจว่ากลไกการรายงานมีความชัดเจนและใช้งานง่ายและให้รายละเอียดที่เป็นหมวดหมู่เพียงพอเพื่อช่วยให้ทีมของพวกเขาจัดลำดับความสำคัญและดำเนินการตามข้อกังวลที่เกี่ยวข้องได้อย่างทันท่วงที
• เทคโนโลยีที่ได้รับการปรับปรุง - ผู้ลงนามมุ่งมั่นที่จะลงทุนในเทคโนโลยีขั้นสูงต่อไปเพื่อตรวจจับและลบเนื้อหาสุดโต่งซึ่งรวมถึงการพัฒนาเครื่องมือจดจำภาพอย่างต่อเนื่อง Facebook ทุ่มเทเงินเพิ่มอีก 7.5 ล้านดอลลาร์สำหรับการวิจัยดังกล่าวเมื่อต้นสัปดาห์ที่ผ่านมา
• การมุ่งเน้นเฉพาะสำหรับความเสี่ยงของการสตรีมสด - ดังที่ระบุไว้ผู้โจมตีไครสต์เชิร์ชใช้ Facebook Live เพื่อสตรีมการกระทำของเขาทางออนไลน์โดยเน้นถึงความกังวลที่สำคัญเกี่ยวกับความสามารถในการสตรีมสด ผู้ลงนามได้ให้คำมั่นที่จะใช้ "มาตรการตรวจสอบขั้นสูง (เช่นการให้คะแนนหรือคะแนนของสตรีมเมอร์กิจกรรมในบัญชีหรือกระบวนการตรวจสอบความถูกต้อง) และการควบคุมกิจกรรมสตรีมมิงแบบสดบางอย่างตามความเหมาะสม" เนื่องจากลักษณะของเนื้อหาสดนี่เป็นพื้นที่ที่ยากสำหรับตำรวจและจะต้องมีการดำเนินการเพิ่มเติมเพื่อจัดการกับข้อกังวลที่อาจเกิดขึ้น
• รายงานความโปร่งใส - ผู้ลงนามยังมุ่งมั่นที่จะเผยแพร่การอัปเดตอย่างสม่ำเสมอเกี่ยวกับการตรวจจับและลบเนื้อหาของผู้ก่อการร้ายหรือกลุ่มหัวรุนแรงที่มีความรุนแรงบนแพลตฟอร์มและบริการของตน

นอกเหนือจากมาตรการเฉพาะแพลตฟอร์มเหล่านี้แล้วสี่ประเด็นต่อไปนี้จะถูกนำไปใช้ในวงกว้างมากขึ้นใน บริษัท ต่างๆ

• การพัฒนาเทคโนโลยีที่ใช้ร่วมกัน - ผู้ลงนามมีความมุ่งมั่นที่จะทำงานร่วมกันในภาคอุตสาหกรรมรัฐบาลสถาบันการศึกษาและองค์กรพัฒนาเอกชน "เพื่อพัฒนาความเข้าใจร่วมกันเกี่ยวกับบริบทที่มีการเผยแพร่เนื้อหาของผู้ก่อการร้ายและกลุ่มหัวรุนแรงที่มีความรุนแรงและเพื่อปรับปรุงเทคโนโลยีในการตรวจจับและกำจัดผู้ก่อการร้ายและความรุนแรง เนื้อหาหัวรุนแรงอย่างมีประสิทธิผลและประสิทธิภาพมากขึ้น " ด้วยการทำงานร่วมกัน บริษัท ต่างๆจะสามารถพัฒนาเครื่องมือและกระบวนการต่างๆได้เร็วขึ้นและเพิ่มมาตรการด้านความปลอดภัย
• Crisis Protocols - ผู้ลงนามจะทำงานร่วมกันเพื่อสร้างโปรโตคอลสำหรับการตอบสนองต่อเหตุการณ์ที่เกิดขึ้นใหม่หรือที่มีการดำเนินการโดยเร่งด่วนเพื่อให้แน่ใจว่าสามารถแบ่งปันข้อมูลที่เกี่ยวข้องได้อย่างรวดเร็วและดำเนินการโดยผู้มีส่วนได้ส่วนเสียทั้งหมดโดยมีความล่าช้าน้อยที่สุด
• การศึกษา - ผู้ลงนามจะทำงานร่วมกันในภาคอุตสาหกรรมรัฐบาลสถาบันการศึกษาและองค์กรพัฒนาเอกชน "เพื่อช่วยทำความเข้าใจและให้ความรู้แก่สาธารณชนเกี่ยวกับเนื้อหาที่มีความรุนแรงของผู้ก่อการร้ายและกลุ่มหัวรุนแรงทางออนไลน์" กระบวนการนี้จะรวมถึงการให้ความรู้และเตือนผู้ใช้เกี่ยวกับวิธีการรายงานหรืออื่น ๆ ที่ไม่เกี่ยวข้องกับการแพร่กระจายของเนื้อหาหัวรุนแรง
• การต่อสู้กับความเกลียดชังและความคลั่งไคล้ - สุดท้ายนี้ผู้ลงนามได้มุ่งมั่นที่จะทำงานร่วมกันเพื่อให้การสนับสนุนมากขึ้นสำหรับการวิจัยที่เกี่ยวข้องเพื่อตรวจจับและแก้ไขต้นตอของความคลั่งไคล้และความเกลียดชัง นี่เป็นเป้าหมายที่ใหญ่กว่ามากเห็นได้ชัด แต่ด้วยทรัพยากรที่รวมกันของยักษ์ใหญ่ด้านเทคโนโลยีความก้าวหน้าครั้งสำคัญจึงเป็นไปได้ซึ่งอาจเป็นก้าวที่ยิ่งใหญ่

ไม่ต้องสงสัยเลยว่ามีการเพิ่มขึ้นของความเกลียดชังทางออนไลน์และการลดลงของวาทกรรมของพลเมืองในช่วงไม่กี่ครั้งที่ผ่านมาซึ่งตามที่ระบุไว้อย่างน้อยก็ต้องมีสาเหตุมาจากอัลกอริทึมการแชร์ที่แพลตฟอร์มโซเชียลใช้เพื่อเพิ่มการมีส่วนร่วมซึ่งยังอำนวยความสะดวกในการกรอง ฟองอากาศนำไปสู่มุมมองที่บิดเบี้ยวมากขึ้น นั่นคือองค์ประกอบที่ต้องได้รับการแก้ไขอย่างเร่งด่วนที่สุด - แพลตฟอร์มโซเชียลเปลี่ยนระบบการแบ่งปันเพื่อลดการมุ่งเน้นไปที่เนื้อหาที่กระตุ้นการแบ่งส่วนอย่างไร

ตัวอย่างเช่น Facebook ให้รางวัลแก่โพสต์ที่เห็นการมีส่วนร่วมมากขึ้น (เช่นความคิดเห็นการแชร์การตอบสนอง) ด้วยการเข้าถึงที่เพิ่มขึ้นเพิ่มการกระจายและการเปิดเผยในผู้ใช้ 2.38 พันล้านคนของแพลตฟอร์ม

โพสต์ใดจะสร้างแรงบันดาลใจให้กับความคิดเห็นเพิ่มเติม - บทความที่มีหัวข้อข่าวว่า 'ผู้เชี่ยวชาญยอมรับว่าต้องดำเนินการเร่งด่วนกับการเปลี่ยนแปลงสภาพภูมิอากาศ' หรือบทความที่ระบุว่า 'การเปลี่ยนแปลงสภาพภูมิอากาศเป็นตำนานที่ออกแบบมาเพื่อสร้างรายได้ให้กับองค์กรระดับโลก'

อัลกอริทึมที่ยอดเยี่ยมของ Facebook กระตุ้นความรู้สึกโลดโผน - ผู้เผยแพร่ที่เล่นเกมของ Facebook ชนะด้วยการเผยแพร่มุมมองที่แตกแยกและรุนแรงมากขึ้น นอกจากนี้ความจริงที่ว่าเมื่อคุณได้แสดงเนื้อหาที่คุณสนใจแล้ว Facebook จะแสดงสิ่งที่เหมือนกันมากขึ้นเพื่อให้คุณมีส่วนร่วมและเป็นที่ชัดเจนว่าอัลกอริทึมของ Facebook อย่างน้อยก็เป็นส่วนหนึ่งที่จะตำหนิสำหรับการแบ่งดังกล่าว และอัลกอริทึมที่ตามมาที่นำไปใช้บนแพลตฟอร์มอื่น ๆ จะเป็นไปตามกระบวนการที่คล้ายกันมาก

นี่เป็นองค์ประกอบสำคัญที่ต้องได้รับการแก้ไขซึ่งไม่ได้กล่าวถึงเป็นพิเศษในการเรียกร้องของไครสต์เชิร์ช ความจริงที่ว่า บริษัท ต่างๆมุ่งมั่นที่จะดำเนินการเป็นขั้นตอนที่ดี แต่เป็นระบบที่ทำให้แพลตฟอร์มโซเชียลมีส่วนร่วมมากขึ้นซึ่งเป็นส่วนหนึ่งของสาเหตุของความกังวลที่เกี่ยวข้องเหล่านี้