Teknoloji Devleri, Aşırılıkçı İçeriğin Yayılmasına Yönelik 'Christchurch Çağrısı'na Kaydolun

51 kişinin öldüğü ve 50 kişinin yaralandığı Christchurch terör saldırıları, dijital medya çevrelerinde yeni bir endişenin altını çizdi - dijital platformlar ve özellikle sosyal ağlar, trajik sonuçlara yol açabilecek büyük toplumsal bölünmeleri ve yer altı hareketlerini körüklüyor. .

Geçmişte aşırılık yanlısı içeriğe odaklanmanın çoğu, yerleşik terör gruplarının radikalleşmesine odaklandı, ancak Christchurch saldırıları, tamamen başka bir radikalleşme biçimine yol açabilecek yerel nefret söyleminin yükselişine dikkat çekmenin de önemini vurguladı. Bu değişim en azından kısmen sosyal medyaya atfedilebilir ve kullanıcılara sevdikleri şeylerden daha fazlasını - ve muhtemelen aynı fikirde olacakları - ve olmayacaklarından daha azını gösteren paylaşım algoritmalarına atfedilebilir, bu da daha çarpıklığa yol açar. dengesiz bakış açısı.

Buna, Christchurch saldırganının eylemlerini Facebook'ta canlı yayınladığı gerçeğini ve sosyal medya ile bu tür hareketler arasındaki bağlantının giderek daha açık hale geldiğini de ekleyin.

Peki bu sorunu çözmek için ne yapılabilir?

Bu hafta, Facebook, Twitter, Microsoft, Google ve Amazon'dan temsilciler, terörizmin ve aşırılığın çevrimiçi yayılmasını engellemek için atabilecekleri sonraki adımları tartışmak üzere Paris'te bir toplantıya katıldılar. Fransa Cumhurbaşkanı Emmanuel Macron ve Yeni Zelanda Başbakanı Jacinda Ardern'in ev sahipliğinde gerçekleşen toplantının sonucu, "endüstrinin teknolojinin suistimalini ele almak için atacağı somut adımları ortaya koyan dokuz maddelik bir strateji olan" Christchurch Çağrısı "oldu. terörist içeriği yaymak. "

Resmi web sitesine göre:

"Christchurch Çağrısı, Hükümetlerin ve teknoloji şirketlerinin çevrimiçi terörist ve şiddet içeren aşırılık yanlısı içeriği ortadan kaldırmaya yönelik bir taahhüdüdür. Özgür, açık ve güvenli bir internetin topluma olağanüstü faydalar sağladığı inancına dayanır. İfade özgürlüğüne saygı esastır. Ancak, hiç kimsenin çevrimiçi olarak terörist ve şiddet içeren aşırılık yanlısı içerik oluşturma ve paylaşma hakkı yoktur. "

Katılan herkesin kabul ettiği Christchurch Çağrısının unsurları şunlardır:

• Güncellenen Kullanım Koşulları - Teknoloji devlerinin her biri, kullanım koşullarını " terörist ve şiddet barındıran aşırılık yanlısı içeriğin dağıtımını açıkça yasaklamak için" olarak güncelleyecektir . Bunun ilk adımlarını, kısa süre önce nefret söylemi politikası kapsamında birkaç tanınmış siyasi yorumcuyu yasaklayan Facebook'tan gördük ve diğer platformlar nefrete teşvik eden içerik üzerinde daha sert kurallar uyguladığından, bu satırlarda daha fazlasını bekleyebilirsiniz.
• Aşırılıkçı İçerik için İyileştirilmiş Raporlama Süreçleri - İmzacılar, kullanıcıların uygunsuz içeriği bildirmesi veya işaretlemesi için kendi platformlarında ve hizmetlerinde yeni yöntemler oluşturmayı taahhüt ettiler. Şirketler ayrıca raporlama mekanizmalarının açık ve kullanımı kolay olmasını sağlamaya ve ekiplerinin ilgili endişelere öncelik vermesine ve derhal harekete geçmesine yardımcı olmak için yeterli kategorik ayrıntı sağlamaya çalışacaklar.
• Gelişmiş Teknoloji - İmzacılar, görsel tanıma araçlarının sürekli geliştirilmesini de içeren aşırılık yanlısı içerikleri tespit etmek ve kaldırmak için ileri teknolojiye yatırım yapmaya devam etmeyi taahhüt ettiler. Facebook, bu hafta başlarında böyle bir araştırmaya 7,5 milyon dolar daha ayırdı.
• Canlı Yayının Risklerine Özel Odaklanma - Belirtildiği gibi, Christchurch saldırganı eylemlerini çevrimiçi olarak yayınlamak için Facebook Live'ı kullandı ve özellikle canlı yayın kapasitesiyle ilgili önemli bir endişeyi vurguladı. İmzacılar, "gelişmiş inceleme önlemleri (yayıncı derecelendirmeleri veya puanları, hesap etkinliği veya doğrulama süreçleri gibi) ve uygun olduğunda belirli canlı akış olaylarının denetlenmesini" uygulamayı taahhüt etmişlerdir. Canlı içeriğin doğası göz önüne alındığında, bu polis için zor bir alandır ve olası endişeleri gidermek için daha fazla işlem yapılması gerekecektir.
• Şeffaflık Raporları - İmzacılar, platformlarında ve hizmetlerinde terörist veya şiddet barındıran aşırılık yanlısı içeriğin tespit edilmesi ve kaldırılmasıyla ilgili düzenli güncellemeler yayınlamayı taahhüt etmişlerdir.

Bu platforma özgü önlemlere ek olarak, aşağıdaki dört nokta şirketler genelinde daha geniş bir şekilde uygulanacaktır.

• Paylaşılan Teknoloji Geliştirme - İmzacılar, terörist ve şiddet içeren aşırılık yanlısı içeriğin yayınlandığı bağlamlar hakkında ortak bir anlayış geliştirmek ve terörist ve şiddeti tespit edip ortadan kaldırmak için teknolojiyi iyileştirmek için endüstri, hükümet, eğitim kurumları ve STK'lar arasında işbirliği içinde çalışmayı taahhüt ettiler aşırılık yanlısı içerik daha etkili ve verimli ". Şirketler, işbirliği içinde çalışarak araçlarını ve süreçlerini daha da hızlı geliştirerek güvenlik önlemlerini artırabilecekler.
• Kriz Protokolleri - İmzacılar, ilgili bilgilerin hızlı bir şekilde paylaşılabilmesini ve tüm paydaşlar tarafından minimum gecikmeyle uygulanabilmesini sağlamak için ortaya çıkan veya aktif olaylara acil olarak yanıt vermek için bir protokol oluşturmak için işbirliği içinde çalışacaklar.
• Eğitim - İmzacılar, "halkı çevrimiçi terörist ve aşırılık yanlısı şiddet içeriği hakkında anlamaya ve eğitmeye yardımcı olmak için" endüstri, hükümet, eğitim kurumları ve STK'lar arasında işbirliği içinde çalışacaklar. Süreç, aşırılık yanlısı içeriğin yayılmasına nasıl katkıda bulunacakları veya katkıda bulunmayacakları konusunda kullanıcıları eğitmeyi ve hatırlatmayı içerecektir.
• Nefret ve Bağnazlıkla Mücadele - Son olarak, imzacılar aşırılık ve nefretin temel nedenlerini tespit etmek ve ele almak için ilgili araştırmalara daha fazla destek sağlamak için işbirliği içinde çalışmayı taahhüt ettiler. Açıkçası bu çok daha büyük bir hedef, ancak teknoloji devlerinin birleşik kaynakları ile önemli ilerlemeler mümkündür ve bu çok büyük bir adım olabilir.

Hiç şüphe yok ki, son zamanlarda çevrimiçi nefrette bir artış ve yurttaşlık söyleminde bir düşüş var - ki bu, belirtildiği gibi, en azından kısmen sosyal platformlar tarafından etkileşimi artırmak için kullanılan paylaşım algoritmalarına atfedilmelidir, bu da filtreyi kolaylaştırır. kabarcıklar, giderek çarpık perspektiflere yol açar. En acilen ele alınması gereken unsur budur - sosyal platformlar, bölünmeyi teşvik eden içeriğe odaklanmayı azaltmak için paylaşım sistemlerini nasıl değiştirirler?

Örneğin, Facebook, daha fazla etkileşim (ör. Yorumlar, paylaşımlar, Tepkiler) gören gönderileri daha fazla erişimle ödüllendirerek, platformun 2,38 milyar kullanıcısı arasında dağıtımını ve teşhirini artırır.

Hangi gönderi daha fazla yoruma ilham verecek - 'Uzmanlar İklim Değişikliği için Acil Eylem Gerekli Olduğunu Kabul Ediyor' başlıklı bir makale veya 'İklim Değişikliği Küresel Şirketler için Para Kazanmak İçin Tasarlanmış Bir Efsanedir' yazan bir makale?

Facebook'un algoritması sansasyonelliği teşvik ediyor - Facebook'un oyununu oynayan yayıncılar, daha bölücü, aşırı bakış açıları yayınlayarak kazanıyor. Buna ek olarak, ilgilendiğiniz içeriği gösterdikten sonra, Facebook'un sizi meşgul etmek için size aynı şeyi daha fazla göstereceği gerçeğini ekleyin ve Facebook'un algoritmasının bu tür bölünmelerden en azından kısmen sorumlu olduğu açıktır. ve diğer platformlarda uygulanan sonraki algoritmalar çok benzer süreci takip eder.

Bu, Christchurch Çağrısında özellikle belirtilmeyen, ele alınması gereken temel bir unsurdur. Şirketlerin harekete geçme taahhüdünde bulunmaları olumlu bir adımdır, ancak sosyal platformları giderek daha ilgi çekici hale getiren sistemlerdir ve bu da bu ilişkili endişelerin nedeninin bir parçasıdır.