I giganti della tecnologia si iscrivono alla "Chiamata di Christchurch" per affrontare la diffusione di contenuti estremisti

Gli attacchi terroristici di Christchurch, in cui 51 persone sono state uccise e 50 ferite, hanno evidenziato una nuova preoccupazione nei circoli dei media digitali: le piattaforme digitali, e in particolare i social network, stanno alimentando importanti divisioni sociali e movimenti clandestini, che possono portare a tragiche conseguenze .

Gran parte dell'attenzione ai contenuti estremisti in passato si è concentrata sulla radicalizzazione da parte di gruppi terroristici consolidati, ma gli attacchi di Christchurch hanno sottolineato l'importanza di notare anche l'aumento dei discorsi di odio localizzati, che possono portare a un'altra forma di radicalizzazione completamente. Questo cambiamento può almeno in parte essere attribuito ai social media e agli algoritmi di condivisione che mostrano agli utenti più di ciò che gli piace - e con cui è probabile che siano d'accordo - e meno di ciò che non vogliono, il che porta a una visione più distorta, prospettiva squilibrata.

Aggiungete a ciò il fatto che l'attaccante di Christchurch ha trasmesso in streaming le sue azioni su Facebook e la connessione tra i social media e tali movimenti è sempre più chiara.

Allora cosa si può fare per affrontare questo problema?

Questa settimana, i rappresentanti di F acebook, Twitter, Microsoft, Google e Amazon hanno partecipato a un incontro a Parigi per discutere i prossimi passi che possono intraprendere per frenare la diffusione del terrorismo e dell'estremismo online. Il risultato dell'incontro, ospitato dal presidente francese Emmanuel Macron e dal primo ministro neozelandese Jacinda Ardern, è 'The Christchurch Call', una strategia in nove punti che "stabilisce i passi concreti che l'industria intraprenderà per affrontare l'abuso della tecnologia per diffondere contenuti terroristici ".

Come da sito ufficiale:

"Il Christchurch Call è un impegno dei governi e delle società tecnologiche per eliminare i contenuti terroristici ed estremisti violenti online. Si basa sulla convinzione che un Internet libero, aperto e sicuro offra vantaggi straordinari alla società. Il rispetto della libertà di espressione è fondamentale. Tuttavia, nessuno ha il diritto di creare e condividere online contenuti terroristici ed estremisti violenti ".

Gli elementi della chiamata di Christchurch, concordati da tutti i presenti, sono i seguenti:

• Termini di utilizzo aggiornati - I giganti della tecnologia aggiorneranno ciascuno i propri termini di utilizzo per " vietare espressamente la distribuzione di contenuti terroristici ed estremisti violenti". Abbiamo già visto i primi passi di questo da Facebook, che di recente ha bandito diversi noti commentatori politici in base alla sua politica sull'incitamento all'odio, e puoi aspettarti di più in questo senso poiché le altre piattaforme implementano regole più severe sui contenuti che incitano all'odio.
• Processi di segnalazione migliorati per contenuti estremisti : i firmatari si sono impegnati a stabilire nuovi metodi all'interno delle loro piattaforme e servizi per consentire agli utenti di segnalare o segnalare contenuti inappropriati. Le aziende cercheranno inoltre di garantire che i meccanismi di segnalazione siano chiari e facili da usare e forniscano dettagli categorici sufficienti per aiutare i loro team a stabilire le priorità e ad agire prontamente sulle questioni rilevanti.
• Tecnologia migliorata - I firmatari si sono impegnati a continuare a investire in tecnologia avanzata per rilevare e rimuovere contenuti estremisti, che include il continuo sviluppo di strumenti di riconoscimento visivo. Facebook ha impegnato altri $ 7,5 milioni per tali ricerche all'inizio di questa settimana.
• Focus dedicato ai rischi dello streaming live - Come notato, l'attaccante di Christchurch ha utilizzato Facebook Live per trasmettere in streaming le sue azioni online, evidenziando una preoccupazione significativa in particolare per la capacità di streaming live. I firmatari si sono impegnati a implementare "misure di controllo avanzate (come valutazioni o punteggi degli streamer, attività dell'account o processi di convalida) e moderazione di alcuni eventi di live streaming ove appropriato". Data la natura dei contenuti live, questa è un'area difficile da sorvegliare e saranno necessarie ulteriori azioni per affrontare potenziali preoccupazioni.
• Rapporti sulla trasparenza - I firmatari si sono inoltre impegnati a pubblicare aggiornamenti regolari in merito al rilevamento e alla rimozione di contenuti terroristici o estremisti violenti sulle loro piattaforme e servizi

Oltre a queste misure specifiche per piattaforma, i seguenti quattro punti saranno applicati in modo più ampio a tutte le società.

• Sviluppo tecnologico condiviso - I firmatari si sono impegnati a lavorare in modo collaborativo tra industria, governo, istituzioni educative e ONG "per sviluppare una comprensione condivisa dei contesti in cui vengono pubblicati contenuti terroristici ed estremisti violenti e per migliorare la tecnologia per rilevare e rimuovere terroristi e violenti contenuti estremisti in modo più efficace ed efficiente ". Lavorando in collaborazione, le aziende saranno in grado di far avanzare i propri strumenti e processi ancora più velocemente, potenziando le misure di sicurezza.
• Protocolli di crisi - I firmatari lavoreranno anche in collaborazione per creare un protocollo per rispondere a eventi emergenti o attivi su base urgente, per garantire che le informazioni rilevanti possano essere condivise rapidamente e agire su tutte le parti interessate con il minimo ritardo.
• Istruzione - I firmatari lavoreranno anche in modo collaborativo tra l'industria, il governo, le istituzioni educative e le ONG "per aiutare a comprendere ed educare il pubblico sui contenuti violenti terroristici ed estremisti online". Il processo includerà l'educazione e il ricordo agli utenti su come segnalare o in altro modo non contribuire alla diffusione di contenuti estremisti.
• Combattere odio e bigottismo - Infine, i firmatari si sono impegnati a lavorare in modo collaborativo per fornire un maggiore supporto alla ricerca pertinente al fine di rilevare e affrontare le cause profonde dell'estremismo e dell'odio. Questo è un obiettivo molto più ampio, ovviamente, ma con le risorse combinate dei giganti della tecnologia, sono possibili progressi significativi, il che potrebbe essere un enorme passo avanti.

Non c'è dubbio che negli ultimi tempi c'è stato un aumento dell'odio online e un declino del discorso civico, che, come notato, deve essere almeno in parte attribuito agli algoritmi di condivisione utilizzati dalle piattaforme social per aumentare il coinvolgimento, che facilitano anche il filtro bolle, portando a prospettive sempre più distorte. Questo è l'elemento che deve essere affrontato più urgentemente: in che modo le piattaforme social cambiano i loro sistemi di condivisione per ridurre l'attenzione sui contenuti che stimolano la divisione?

Ad esempio, Facebook premia i post che vedono più coinvolgimento (cioè commenti, condivisioni, reazioni) con una maggiore copertura, aumentando la loro distribuzione e visibilità tra i 2,38 miliardi di utenti della piattaforma.

Quale post ispirerà più commenti: un articolo con un titolo che recita "Gli esperti concordano sul fatto che è necessaria un'azione urgente sul cambiamento climatico" o uno che dice "Il cambiamento climatico è un mito progettato per fare soldi per le aziende globali"?

Lo stesso algoritmo di Facebook incentiva il sensazionalismo: gli editori che giocano al gioco di Facebook vincono pubblicando punti di vista più divisivi ed estremi. Aggiungete a ciò il fatto che una volta che avrete mostrato quali contenuti vi interessano, Facebook vi mostrerà più o meno lo stesso, al fine di tenervi impegnati, ed è chiaro che l'algoritmo di Facebook è almeno in parte responsabile di tali divisioni e gli algoritmi successivi implementati su altre piattaforme seguono un processo molto simile.

Questo è un elemento chiave che deve essere affrontato, che non è specificamente menzionato nel Christchurch Call. Il fatto che le aziende si siano impegnate ad agire è un passo positivo, ma sono proprio i sistemi che hanno reso le piattaforme social sempre più coinvolgenti che sono anche parte della causa di queste preoccupazioni associate.