Tech Giants Înscrie-te la „Christchurch Call” pentru a aborda răspândirea conținutului extremist

Atacurile teroriste de la Christchurch, în care au fost ucise 51 de persoane și 50 de răniți, au evidențiat o nouă preocupare în cercurile media digitale - faptul că platformele digitale și, în special, rețelele sociale, alimentează diviziile societale majore și mișcările subterane, care pot duce la consecințe tragice. .

O mare parte din accentul pe conținutul extremist din timpurile trecute s-a concentrat asupra radicalizării de către grupurile teroriste consacrate, dar atacurile de la Christchurch au subliniat importanța notării, de asemenea, a creșterii discursurilor de ură localizate, care pot duce la o altă formă de radicalizare în întregime. Această schimbare poate fi cel puțin parțial atribuită rețelelor de socializare și algoritmilor de partajare care arată utilizatorilor mai mult din ceea ce le place - și sunt probabil să fie de acord - și mai puțin din ceea ce nu vor, ceea ce duce la o mai înclinare, perspectivă dezechilibrată.

Adăugați la faptul că atacatorul Christchurch și-a transmis live acțiunile pe Facebook, iar legătura dintre social media și astfel de mișcări este din ce în ce mai clară.

Deci, ce se poate face pentru a aborda această problemă?

Săptămâna aceasta, reprezentanți ai F acebook, Twitter, Microsoft, Google și Amazon au participat la o întâlnire la Paris pentru a discuta următorii pași pe care îi pot face pentru a stopa răspândirea terorismului și a extremismului online. Rezultatul întâlnirii, care a fost găzduită de președintele francez Emmanuel Macron și de prim-ministrul din Noua Zeelandă, Jacinda Ardern, este „The Christchurch Call”, o strategie în nouă puncte care „stabilește pașii concreti pe care industria îi va face pentru a aborda abuzul de tehnologie pentru a răspândi conținut terorist ".

Conform site-ului oficial:

„Apelul Christchurch este un angajament al guvernelor și al companiilor tehnologice de a elimina conținutul extremist terorist și violent online. Se bazează pe convingerea că un internet gratuit, deschis și sigur oferă beneficii extraordinare societății. Respectarea libertății de exprimare este fundamentală. Cu toate acestea, nimeni nu are dreptul să creeze și să partajeze online conținut extremist terorist și violent. "

Elementele chemării Christchurch, acceptate de toți cei prezenți, sunt următoarele:

• Condiții de utilizare actualizate - Giganții tehnologici își vor actualiza fiecare condițiile de utilizare pentru a „ interzice în mod expres distribuirea conținutului extremist terorist și violent”. Am văzut deja primii pași ai acestui lucru de la Facebook, care a interzis recent mai mulți comentatori politici cunoscuți în temeiul politicii sale privind discursul de ură și vă puteți aștepta la mai multe în acest sens, pe măsură ce celelalte platforme implementează reguli mai stricte privind conținutul care incită la ură.
• Procese de raportare îmbunătățite pentru conținutul extremist - Destinatarii s-au angajat să stabilească noi metode în cadrul platformelor și serviciilor lor pentru ca utilizatorii să raporteze sau să semnaleze conținut neadecvat. Companiile vor căuta, de asemenea, să se asigure că mecanismele de raportare sunt clare și ușor de utilizat și să ofere suficiente detalii categorice pentru a-și ajuta echipele să acorde prioritate și să acționeze prompt în legătură cu preocupările relevante.
• Tehnologie îmbunătățită - Destinatarii s-au angajat să investească în continuare în tehnologie avansată pentru detectarea și eliminarea conținutului extremist, care include dezvoltarea continuă a instrumentelor de recunoaștere vizuală. Facebook a angajat încă 7,5 milioane de dolari pentru aceste cercetări la începutul acestei săptămâni.
• Concentrare dedicată asupra riscurilor streamingului live - După cum sa menționat, atacatorul Christchurch a folosit Facebook Live pentru a transmite acțiunile sale online, evidențiind o preocupare semnificativă cu privire la capacitatea de streaming live în special. Destinatarii s-au angajat să pună în aplicare „măsuri de verificare îmbunătățite (cum ar fi ratingurile sau scorurile streamer-ului, activitatea contului sau procesele de validare) și moderarea anumitor evenimente de streaming live, acolo unde este cazul”. Având în vedere natura conținutului live, acesta este un domeniu dificil pentru poliție și vor fi necesare mai multe acțiuni pentru a aborda potențialele preocupări.
• Rapoarte privind transparența - semnatarii s-au angajat, de asemenea, să publice actualizări regulate cu privire la detectarea și eliminarea conținutului terorist sau extremist violent pe platformele și serviciile lor

În plus față de aceste măsuri specifice platformei, următoarele patru puncte vor fi aplicate mai larg la nivelul companiilor.

• Dezvoltarea comună a tehnologiei - semnatarii s-au angajat să lucreze în colaborare între industrie, guvern, instituții de învățământ și ONG-uri „pentru a dezvolta o înțelegere comună a contextelor în care este publicat conținutul extremist terorist și violent și pentru a îmbunătăți tehnologia de detectare și eliminare a teroristilor și violenților conținut extremist mai eficient și mai eficient ”. Lucrând în colaborare, companiile își vor putea avansa instrumentele și procesele și mai rapid, sporind măsurile de siguranță.
• Protocoale de criză - Destinatarii vor lucra, de asemenea, în colaborare pentru a crea un protocol de răspuns la evenimente emergente sau active în mod urgent, pentru a se asigura că informațiile relevante pot fi partajate rapid și pot fi acționate de toate părțile interesate cu o întârziere minimă.
• Educație - Destinatarii vor lucra, de asemenea, în colaborare cu industria, guvernul, instituțiile de învățământ și ONG-urile „pentru a ajuta la înțelegerea și educarea publicului despre conținut terorist și extremist violent online”. Procesul va include educarea și reamintirea utilizatorilor despre cum să raporteze sau să nu contribuie în alt mod la răspândirea conținutului extremist.
• Combaterea urii și fanatismului - În cele din urmă, semnatarii s-au angajat să lucreze în colaborare pentru a oferi un sprijin mai mare cercetărilor relevante pentru a detecta și aborda cauzele profunde ale extremismului și ale urii. Acesta este un obiectiv mult mai mare, evident, dar cu resursele combinate ale giganților tehnologici, sunt posibile progrese semnificative, care ar putea fi un pas imens.

Nu există nicio îndoială că a existat o creștere a urii online și o scădere a discursului civic în ultima perioadă - care, după cum sa menționat, trebuie atribuită cel puțin parțial algoritmilor de partajare utilizați de platformele sociale pentru a stimula implicarea, care facilitează și filtrarea bule, ducând la perspective din ce în ce mai distorsionate. Acesta este elementul care trebuie abordat cel mai urgent - cum își schimbă platformele sociale sistemele de partajare pentru a reduce concentrarea asupra conținutului care stimulează diviziunea?

De exemplu, Facebook recompensează postările care văd mai mult angajament (adică comentarii, distribuiri, reacții) cu o acoperire sporită, sporind distribuția și expunerea acestora în rândul celor 2,38 miliarde de utilizatori ai platformei.

Ce post va inspira mai multe comentarii - un articol cu ​​un titlu pe care scrie „Experții sunt de acord că este necesară o acțiune urgentă privind schimbările climatice” sau unul care spune „Schimbările climatice sunt un mit conceput pentru a face bani pentru corporațiile globale”?

Însăși algoritmul Facebook stimulează senzaționalismul - editorii care joacă jocul Facebook câștigă prin publicarea unor puncte de vedere mai divizive și extreme. Adăugați la faptul că, odată ce ați arătat ce conținut vă interesează, Facebook vă va arăta mai mult la fel, pentru a vă menține angajat și este clar că algoritmul Facebook este cel puțin parțial de vină pentru astfel de divizări , iar algoritmii ulteriori implementați pe alte platforme urmează un proces foarte similar.

Acesta este un element cheie care trebuie abordat, care nu este menționat în mod specific în Apelul Christchurch. Faptul că companiile s-au angajat să ia măsuri este un pas pozitiv, însă tocmai sistemele care au făcut ca platformele sociale să devină din ce în ce mai implicate fac parte din cauza acestor preocupări asociate.