Tech Giants Mendaftar ke 'Christchurch Call' untuk Mengatasi Penyebaran Konten Ekstremis

Serangan teror Christchurch, yang menewaskan 51 orang, dan 50 lainnya terluka, menyoroti kekhawatiran baru di kalangan media digital - bahwa platform digital, dan jejaring sosial pada khususnya, memicu perpecahan sosial utama dan gerakan bawah tanah, yang dapat menyebabkan konsekuensi yang tragis. .

Sebagian besar fokus pada konten ekstremis di masa lalu berfokus pada radikalisasi oleh kelompok teror yang sudah mapan, tetapi serangan Christchurch menggarisbawahi pentingnya juga mencatat munculnya ujaran kebencian yang dilokalisasi, yang dapat mengarah pada bentuk radikalisasi lain sepenuhnya. Pergeseran itu setidaknya sebagian dapat dikaitkan dengan media sosial, dan berbagi algoritme yang menunjukkan kepada pengguna lebih banyak tentang apa yang mereka sukai - dan kemungkinan besar mereka akan setuju - dan lebih sedikit dari apa yang tidak mereka sukai, yang mengarah ke lebih condong, perspektif yang tidak seimbang.

Ditambah fakta bahwa penyerang Christchurch menyiarkan langsung tindakannya di Facebook, dan hubungan antara media sosial dan gerakan semacam itu semakin jelas.

Jadi apa yang bisa dilakukan untuk mengatasi masalah ini?

Minggu ini, perwakilan dari Facebook, Twitter, Microsoft, Google, dan Amazon menghadiri pertemuan di Paris untuk membahas langkah-langkah selanjutnya yang dapat mereka ambil untuk mengekang penyebaran terorisme dan ekstremisme online. Hasil dari pertemuan tersebut, yang dipandu oleh Presiden Prancis Emmanuel Macron dan Perdana Menteri Selandia Baru Jacinda Ardern, adalah 'The Christchurch Call', sebuah strategi sembilan poin yang "menetapkan langkah-langkah konkret yang akan diambil industri untuk mengatasi penyalahgunaan teknologi. untuk menyebarkan konten teroris. "

Sesuai situs web resmi:

"Christchurch Call adalah komitmen Pemerintah dan perusahaan teknologi untuk menghapus konten teroris dan ekstremis brutal secara online. Ini didasarkan pada keyakinan bahwa internet yang bebas, terbuka, dan aman menawarkan manfaat luar biasa bagi masyarakat. Menghormati kebebasan berekspresi adalah hal mendasar. Namun, tidak ada yang berhak membuat dan membagikan konten teroris dan ekstremis brutal secara online. "

Unsur-unsur dalam Christchurch Call, yang disetujui oleh semua yang hadir, adalah sebagai berikut:

• Persyaratan Penggunaan yang Diperbarui - Masing-masing raksasa teknologi akan memperbarui persyaratan penggunaan mereka menjadi " untuk secara tegas melarang distribusi konten teroris dan ekstremis brutal". Kami telah melihat langkah pertama dari hal ini dari Facebook, yang baru-baru ini melarang beberapa komentator politik terkenal di bawah kebijakan ujaran kebencian, dan Anda dapat mengharapkan lebih banyak di sepanjang garis ini karena platform lain menerapkan aturan yang lebih ketat pada konten yang memicu kebencian.
• Proses Pelaporan yang Lebih Baik untuk Konten Ekstremis - Para penandatangan berkomitmen untuk menetapkan metode baru dalam platform dan layanan mereka bagi pengguna untuk melaporkan atau menandai konten yang tidak pantas. Perusahaan juga akan berusaha untuk memastikan bahwa mekanisme pelaporan jelas dan mudah digunakan, dan memberikan detail kategoris yang cukup untuk membantu tim mereka memprioritaskan dan bertindak segera atas masalah yang relevan.
• Peningkatan Teknologi - Para penandatangan telah berkomitmen untuk terus berinvestasi dalam teknologi canggih untuk mendeteksi dan menghapus konten ekstremis, yang mencakup pengembangan berkelanjutan dari alat pengenalan visual. Facebook berkomitmen tambahan $ 7,5 juta untuk penelitian semacam itu awal pekan ini.
• Fokus Khusus pada Risiko Live-streaming - Seperti dicatat, penyerang Christchurch menggunakan Facebook Live untuk melakukan streaming secara online, menyoroti kekhawatiran yang signifikan khususnya pada kapasitas live-streaming. Para penandatangan telah berkomitmen untuk menerapkan "langkah-langkah pemeriksaan yang ditingkatkan (seperti peringkat atau skor streamer, aktivitas akun, atau proses validasi) dan moderasi acara streaming langsung tertentu jika sesuai". Mengingat sifat konten langsung, ini adalah area yang sulit untuk dipantau, dan lebih banyak tindakan akan diperlukan untuk mengatasi potensi masalah.
• Laporan Transparansi - Para penandatangan juga telah berkomitmen untuk menerbitkan pembaruan rutin mengenai deteksi dan penghapusan konten teroris atau ekstremis brutal di platform dan layanan mereka

Selain langkah-langkah khusus platform ini, empat poin berikut akan diterapkan secara lebih luas di seluruh perusahaan.

• Pengembangan Teknologi Bersama - Para penandatangan telah berkomitmen untuk bekerja secara kolaboratif di seluruh industri, pemerintah, lembaga pendidikan, dan LSM "untuk mengembangkan pemahaman bersama tentang konteks di mana konten teroris dan ekstremis brutal diterbitkan dan untuk meningkatkan teknologi untuk mendeteksi dan menghapus teroris dan kekerasan konten ekstremis lebih efektif dan efisien ". Dengan bekerja sama, perusahaan akan dapat memajukan alat dan proses mereka lebih cepat lagi, meningkatkan langkah-langkah keselamatan.
• Protokol Krisis - Para penandatangan juga akan bekerja secara kolaboratif untuk membuat protokol untuk menanggapi peristiwa yang muncul atau aktif secara mendesak, untuk memastikan bahwa informasi yang relevan dapat dibagikan dengan cepat, dan ditindaklanjuti oleh semua pemangku kepentingan dengan penundaan minimal.
• Pendidikan - Para penandatangan juga akan bekerja sama di seluruh industri, pemerintah, lembaga pendidikan, dan LSM "untuk membantu memahami dan mendidik publik tentang konten kekerasan teroris dan ekstremis online". Prosesnya akan mencakup mendidik dan mengingatkan pengguna tentang cara melaporkan atau sebaliknya tidak berkontribusi pada penyebaran konten ekstremis.
• Memerangi Kebencian dan Kefanatikan - Terakhir, para penandatangan telah berkomitmen untuk bekerja secara kolaboratif untuk memberikan dukungan yang lebih besar untuk penelitian yang relevan guna mendeteksi dan mengatasi akar penyebab ekstremisme dan kebencian. Ini adalah tujuan yang jauh lebih besar, tentu saja, tetapi dengan sumber daya gabungan dari raksasa teknologi, kemajuan signifikan dimungkinkan, yang bisa menjadi langkah besar.

Tidak ada keraguan bahwa ada peningkatan kebencian online, dan penurunan wacana sipil belakangan ini - yang, seperti dicatat, setidaknya harus sebagian dikaitkan dengan algoritma berbagi yang digunakan oleh platform sosial untuk meningkatkan keterlibatan, yang juga memfasilitasi penyaringan. gelembung, mengarah ke perspektif yang semakin miring. Itulah elemen yang paling perlu ditangani - bagaimana platform sosial mengubah sistem berbagi mereka untuk mengurangi fokus pada konten yang memacu perpecahan?

Misalnya, Facebook memberi penghargaan pada posting yang melihat lebih banyak keterlibatan (yaitu komentar, berbagi, Reaksi) dengan peningkatan jangkauan, meningkatkan distribusi dan eksposur mereka di antara 2,38 miliar pengguna platform.

Pos mana yang akan menginspirasi lebih banyak komentar - artikel dengan tajuk utama bertuliskan 'Para Ahli Setuju Bahwa Tindakan Mendesak Diperlukan untuk Perubahan Iklim' atau yang bertuliskan 'Perubahan Iklim adalah Mitos yang Dirancang untuk Menghasilkan Uang bagi Perusahaan Global'?

Algoritme Facebook mendorong sensasi - penerbit yang memainkan permainan Facebook menang dengan menerbitkan sudut pandang yang lebih memecah belah dan ekstrem. Tambahkan ke fakta bahwa setelah Anda menunjukkan konten apa yang Anda minati, Facebook akan menunjukkan lebih banyak hal yang sama, untuk membuat Anda tetap terlibat, dan jelas bahwa algoritma Facebook setidaknya sebagian untuk disalahkan atas pembagian semacam itu. , dan algoritme berikutnya yang diterapkan pada platform lain mengikuti proses yang sangat mirip.

Ini adalah elemen kunci yang perlu diperhatikan, yang tidak disebutkan secara spesifik dalam Christchurch Call. Fakta bahwa perusahaan telah berkomitmen untuk mengambil tindakan adalah langkah positif, tetapi sistem yang membuat platform sosial semakin menarik juga merupakan bagian dari penyebab kekhawatiran terkait ini.