Facebook ให้ภาพรวมใหม่ของความพยายามในการต่อต้านการเหยียดเชื้อชาติทางออนไลน์ในยุคยูโร 2020

หลังจากเหตุการณ์สำคัญอีกประการหนึ่งของการล่วงละเมิดทางเชื้อชาติทางออนไลน์ โดยมีเป้าหมายที่สมาชิกของทีมฟุตบอลอังกฤษ Facebook ได้ให้ภาพรวมใหม่เกี่ยวกับวิธีการทำงานเพื่อจัดการกับการโจมตีดังกล่าว และหยุดผู้คนจากการถูกล่วงละเมิดตามเชื้อชาติในแพลตฟอร์มต่างๆ

หลังจากการพ่ายแพ้ของอังกฤษในการ แข่งขันชิงแชมป์ยุโรปรอบชิงชนะเลิศเมื่อวันอาทิตย์ที่ผ่านมา กลุ่มสื่อสังคมออนไลน์ได้โพสต์ความคิดเห็นเหยียดผิวหลายร้อยคน โจมตีผู้เล่นผิวสีสามคนในทีมฟุตบอลของอังกฤษ ซึ่งรวมถึงการใช้อีโมจิเป็นองค์ประกอบในทางที่ผิด ระบบของ Instagram ใดที่ไม่ได้รับข้อกังวลในขั้นต้น แต่ตอนนี้ ในการตรวจสอบ Facebook ได้อัปเดตระบบและทีมงานเพื่อให้แน่ใจว่าจะจัดการกับเหตุการณ์ที่คล้ายคลึงกันในอนาคต ในขณะเดียวกันก็พยายามปรับปรุงกระบวนการโดยรวมด้วย

ตามที่อธิบายโดย Facebook:

“เรารู้สึกตกใจกับการเหยียดผิวที่น่ารังเกียจของสมาชิกบางคนของทีมฟุตบอลของอังกฤษที่มีประสบการณ์หลังจากรอบชิงชนะเลิศยูโร 2020 เมื่อสุดสัปดาห์ที่ผ่านมา นี่เป็นปัญหาร้ายแรงอย่างเหลือเชื่อที่เราได้ดำเนินการมาหลายปีซึ่งรวมถึงการทำงานโดยตรงกับองค์กรฟุตบอลและกฎหมาย การบังคับใช้”

แท้จริงแล้ว แม้แต่ในปีนี้ Facebook ก็เผชิญกับความท้าทายที่รุนแรงในเรื่องนี้ ซึ่งผูกกับแฟนฟุตบอลในสหราชอาณาจักรอีกครั้ง

ย้อนกลับไปในเดือนกุมภาพันธ์ อินสตาแกรมได้กลายเป็นแหล่งที่มาของเหตุการณ์ต่างๆ ที่เกิดขึ้นจากการโจมตีตามเชื้อชาติ ต่อ ผู้เล่นจากแมนเชสเตอร์ยูไนเต็ด, เชลซี และลิเวอร์พูล รวมถึงรายอื่นๆ ที่ตกเป็นเป้าหมายผ่าน Instagram Direct แมนเชสเตอร์ ยูไนเต็ด แถลงการณ์ร่วมกับเอฟเวอร์ตัน ลิเวอร์พูล และแมนเชสเตอร์ ซิตี้ ประณามเหตุการณ์ดังกล่าว และเรียกร้องให้บริษัทแม่ของอินสตาแกรม Facebook ทำสิ่งต่างๆ มากขึ้นเพื่อปกป้องผู้ใช้จากเหตุการณ์ดังกล่าว ส่งผลให้อินสตาแกรมมีบทลงโทษที่รุนแรงขึ้นสำหรับผู้ที่พบว่าส่งการละเมิดผ่าน DM และตัวเลือกใหม่สำหรับบัญชีส่วนตัวเพื่อปิด DM จากบุคคลที่พวกเขาไม่ได้ติดตาม

อย่างไรก็ตาม เห็นได้ชัดว่ายังมีประเด็นเพิ่มเติมที่จะกล่าวถึงในเรื่องนี้ และในขณะที่การเหยียดเชื้อชาติเป็นปัญหาทางสังคม และไม่ได้จำกัดอยู่แค่แพลตฟอร์มโซเชียลเช่นนี้ Facebook จำเป็นต้องตรวจสอบให้แน่ใจว่าไม่มีการเสริมใดๆ สำหรับสิ่งเดียวกัน เพื่อที่จะลดผลกระทบที่เกิดขึ้น

Facebook ระบุอย่างชัดเจนว่า:

“เราไม่อนุญาตให้โจมตีผู้คนตามลักษณะที่ได้รับการคุ้มครอง ซึ่งรวมถึงเชื้อชาติ ศาสนา สัญชาติ หรือรสนิยมทางเพศ หากเราทราบว่ามีการใช้คำหรืออิโมจิใด ๆ เพื่อโจมตีผู้คนตามเชื้อชาติของพวกเขา เราจะลบออก เพราะพวกเขาละเมิดนโยบายของเรา เราเผยแพร่นโยบายเกี่ยวกับวาจาสร้างความเกลียดชังในมาตรฐานชุมชนและหลักเกณฑ์ของชุมชน Instagram"

ปัญหาในเหตุการณ์ล่าสุดนี้ ตามที่ระบุไว้คือ ตอนแรกยังไม่มีการระบุการใช้อีโมจิเป็นเครื่องหมายแบ่งแยกเชื้อชาติ ซึ่ง Adam Mosseri หัวหน้าของ Instagram ยอมรับ

Facebook อธิบายว่าระบุคำพูดแสดงความเกลียดชังโดยใช้การผสมผสานระหว่างปัญญาประดิษฐ์และการทบทวนโดยมนุษย์

"AI ช่วยให้เราจัดลำดับความสำคัญของรายงานสำหรับผู้ตรวจสอบและดำเนินการอัตโนมัติตามความเหมาะสม ระหว่างเดือนมกราคมถึงมีนาคม 2021 เราได้ลบเนื้อหาเกี่ยวกับวาจาสร้างความเกลียดชังมากกว่า 25 ล้านรายการออกจาก Facebook เกือบ 97% ก่อนที่ใครจะรายงานให้เราทราบ และบน Instagram เราดำเนินการกับเนื้อหา 6.3 ล้านชิ้น 93% ก่อนที่ใครจะรายงานให้เราทราบ"

ซึ่งเป็นอัตราผลลัพธ์ที่ดี แต่อย่างเหตุการณ์ล่าสุดนี้แสดงให้เห็น ยังมีบางครั้งที่ระบบเหล่านี้จะไม่สามารถจับทุกอย่างได้ ซึ่งตามที่ Mosseri ได้กล่าวไว้เพิ่มเติมนั้นก็เป็นความท้าทายในด้านขนาดเช่นกัน

ในความเป็นจริง ไม่มีทางที่จะปิดบังสิ่งนี้ได้ทั้งหมด แต่ Facebook กำลังทำงานเพื่อให้แน่ใจว่าจะอัปเดตระบบตามเวลาจริงตามที่ตรวจพบกรณีต่างๆ เพื่อที่จะทำงานได้เร็วขึ้นเพื่อต่อสู้กับการละเมิดและจำกัดการเปิดเผย

"ผู้คนรู้สึกผิดหวังอย่างถูกต้องเมื่อพวกเขารายงานโพสต์และได้รับการบอกเล่าอย่างไม่ถูกต้องว่าความคิดเห็นที่แสดงความเกลียดชังกับอีโมจิบางตัวไม่ละเมิดกฎของเรา นั่นเป็นเพราะ AI ของเราไม่เข้าใจบริบท - และนั่นเป็นความผิดพลาด เราย้าย เพื่อแก้ไขปัญหานี้อย่างรวดเร็วผ่านการปรับปรุงเทคโนโลยีของเราเมื่อเร็วๆ นี้ เราจะทำงานต่อไปในเรื่องนี้เพื่อให้เราสามารถลบอิโมจิที่ละเมิดออกจากแพลตฟอร์มของเราได้เร็วขึ้น"

เป็นความสมดุลที่ยากมาก และไม่มีใครมีคำตอบทั้งหมด ตัวอย่างเช่น กลุ่มกฎระเบียบต่างๆ ได้เสนอบทลงโทษที่รุนแรงขึ้นสำหรับแพลตฟอร์มโซเชียลที่ไม่สามารถแก้ไขปัญหาดังกล่าวได้ทันท่วงที ปัญหาคือ สิ่งที่ถือว่า 'ทันเวลา' จะแตกต่างกันแทบทุกกรณี

Instagram ควรเลือกใช้อิโมจิในทางที่ผิดเร็วกว่านี้หรือไม่? ใช่ แต่ระบบอัตโนมัติไม่ได้ระบุว่าเป็นปัญหา เพราะมันไม่ใช่ จนกระทั่งเป็น และไม่มีใครสามารถคาดการณ์ได้จนกว่าจะสายเกินไป

วิธีหนึ่งที่เป็นไปได้ในการแก้ไขปัญหานี้คือการกำหนดข้อกำหนด ID ที่เข้มงวดขึ้นสำหรับบุคคลเมื่อพวกเขาสมัครบัญชีโซเชียลมีเดีย ซึ่งจะทำให้ระบุตัวผู้กระทำผิดได้ง่ายขึ้น หากมีภัยคุกคามจากการขอความช่วยเหลือทางกฎหมายในโลกแห่งความเป็นจริงสำหรับการกระทำออนไลน์ของคุณ นั่นอาจเป็นภัยคุกคามที่มากพอที่จะทำให้ผู้ใช้พิจารณาการกระทำของพวกเขาอีกครั้ง

แต่ Facebook บอกว่าสิ่งนี้ไม่จำเป็นต้องเป็นหนทางข้างหน้าเช่นกัน:

"มีความเสี่ยงในการยืนยันตัวตน โดยหลักแล้ว การกีดกันกลุ่มต่างๆ โดยเฉพาะกลุ่มที่ด้อยโอกาส ซึ่งเข้าถึงรูปแบบการระบุตัวตนอย่างเป็นทางการไม่ได้โดยง่าย แบบจำลองล่าสุดจากคณะกรรมการการเลือกตั้งประมาณการว่า 11 ล้านคนในสหราชอาณาจักรไม่มี ใบขับขี่หรือหนังสือเดินทาง และกลุ่มนี้มีแนวโน้มที่จะมาจากภูมิหลังที่เสียเปรียบมากกว่า”

ซึ่งเป็นประเด็นที่ถูกต้อง และอีกครั้งให้ขอบเขตเพิ่มเติมเกี่ยวกับความท้าทายก่อนหน้านั้น และแพลตฟอร์มออนไลน์ทั้งหมดในส่วนนี้

เป็นความท้าทายที่ยากแต่สำคัญ และเป็นสิ่งที่ Facebook ให้ความสำคัญอย่างมาก ตามหลักการแล้ว เราสามารถพบวิธีแก้ปัญหาที่เน้นประเด็นสำคัญเหล่านี้ แต่ในความเป็นจริง จะมีระดับของการใช้ในทางที่ผิดเสมอ ไม่ว่าจะใช้มาตรการใดก็ตาม

และอีกครั้ง ในระดับของ Facebook ข้อผิดพลาดเพียงเล็กน้อยก็อาจส่งผลกระทบอย่างมาก

หวังว่าในขณะที่ระบบอัตโนมัติพัฒนาขึ้น เราจะสามารถใช้เครื่องมือต่างๆ ได้มากขึ้นเพื่อรักษาสภาพแวดล้อมที่ปลอดภัยสำหรับทุกคน