Tech Giants inscreve-se no 'Christchurch Call' para lidar com a disseminação de conteúdo extremista

Os ataques terroristas de Christchurch, nos quais 51 pessoas foram mortas e 50 feridas, destacaram uma nova preocupação nos círculos da mídia digital - que as plataformas digitais, e as redes sociais em particular, estão alimentando grandes divisões sociais e movimentos clandestinos, que podem levar a consequências trágicas .

Muito do foco no conteúdo extremista no passado se concentrou na radicalização por grupos terroristas estabelecidos, mas os ataques de Christchurch sublinharam a importância de também observar o aumento do discurso de ódio localizado, que pode levar a outra forma de radicalização inteiramente. Essa mudança pode, pelo menos em parte, ser atribuída às mídias sociais e aos algoritmos de compartilhamento que mostram aos usuários mais do que eles gostam - e com o que provavelmente concordarão - e menos do que não, o que leva a um comportamento mais distorcido, perspectiva desequilibrada.

Adicione a isso o fato de que o atacante de Christchurch transmitiu ao vivo suas ações no Facebook, e a conexão entre a mídia social e tais movimentos é cada vez mais clara.

Então, o que pode ser feito para resolver esse problema?

Esta semana, representantes do F acebook, Twitter, Microsoft, Google e Amazon participaram de uma reunião em Paris para discutir os próximos passos que podem tomar para conter a disseminação do terrorismo e do extremismo online. O resultado da reunião, que foi organizada pelo presidente francês Emmanuel Macron e pela primeira-ministra da Nova Zelândia Jacinda Ardern, é 'The Christchurch Call', uma estratégia de nove pontos que "estabelece medidas concretas que a indústria irá tomar para lidar com o abuso de tecnologia para espalhar conteúdo terrorista. "

De acordo com o site oficial:

"A Chamada de Christchurch é um compromisso de governos e empresas de tecnologia para eliminar conteúdo terrorista e extremista violento on-line. Baseia-se na convicção de que uma Internet livre, aberta e segura oferece benefícios extraordinários para a sociedade. O respeito pela liberdade de expressão é fundamental. No entanto, ninguém tem o direito de criar e compartilhar conteúdo terrorista e extremista violento online. "

Os elementos da Chamada de Christchurch, acordados por todos os presentes, são os seguintes:

• Termos de uso atualizados - os gigantes da tecnologia atualizarão seus termos de uso para " proibir expressamente a distribuição de conteúdo terrorista e extremista violento". Já vimos os primeiros passos disso no Facebook, que recentemente baniu vários comentaristas políticos conhecidos sob sua política de discurso de ódio, e você pode esperar mais nesse sentido, à medida que outras plataformas implementam regras mais rígidas sobre conteúdo que incita ao ódio.
• Processos de relatório aprimorados para conteúdo extremista - Os signatários se comprometeram a estabelecer novos métodos em suas plataformas e serviços para que os usuários relatassem ou sinalizassem conteúdo impróprio. As empresas também procurarão garantir que os mecanismos de relatório sejam claros e fáceis de usar e forneçam detalhes categóricos suficientes para ajudar suas equipes a priorizar e agir prontamente em questões relevantes.
• Tecnologia aprimorada - Os signatários se comprometeram a continuar a investir em tecnologia avançada para detectar e remover conteúdo extremista, o que inclui o desenvolvimento contínuo de ferramentas de reconhecimento visual. O Facebook comprometeu US $ 7,5 milhões adicionais para essa pesquisa no início desta semana.
• Foco dedicado nos riscos da transmissão ao vivo - Como observado, o atacante de Christchurch usou o Facebook Live para transmitir suas ações online, destacando uma preocupação significativa com a capacidade de transmissão ao vivo em particular. Os signatários se comprometeram a implementar "medidas de verificação aprimoradas (como classificações ou pontuações de streamer, atividade de conta ou processos de validação) e moderação de certos eventos de transmissão ao vivo quando apropriado". Dada a natureza do conteúdo ao vivo, esta é uma área difícil de policiar, e mais ações serão necessárias para lidar com possíveis preocupações.
• Relatórios de transparência - Os signatários também se comprometeram a publicar atualizações regulares sobre a detecção e remoção de conteúdo terrorista ou extremista violento em suas plataformas e serviços

Além dessas medidas específicas da plataforma, os quatro pontos a seguir serão aplicados de forma mais ampla em todas as empresas.

• Desenvolvimento de tecnologia compartilhada - Os signatários se comprometeram a trabalhar de forma colaborativa em toda a indústria, governo, instituições educacionais e ONGs "para desenvolver uma compreensão compartilhada dos contextos em que o conteúdo terrorista e extremista violento é publicado e para melhorar a tecnologia para detectar e remover terroristas e violentos conteúdo extremista de forma mais eficaz e eficiente ". Trabalhando em colaboração, as empresas poderão aprimorar suas ferramentas e processos com ainda mais rapidez, potencializando as medidas de segurança.
• Protocolos de crise - Os signatários também trabalharão de forma colaborativa para criar um protocolo para responder a eventos emergentes ou ativos em uma base urgente, para garantir que as informações relevantes possam ser compartilhadas rapidamente e aplicadas por todas as partes interessadas com o mínimo de atraso.
• Educação - Os signatários também trabalharão em colaboração com a indústria, governo, instituições educacionais e ONGs "para ajudar a compreender e educar o público sobre terrorismo e conteúdo extremista violento online". O processo incluirá educar e lembrar os usuários sobre como denunciar ou não contribuir para a disseminação de conteúdo extremista.
• Combatendo o ódio e a intolerância - Por último, os signatários se comprometeram a trabalhar de forma colaborativa para fornecer maior apoio a pesquisas relevantes a fim de detectar e abordar as causas profundas do extremismo e do ódio. Esta é uma meta muito maior, obviamente, mas com os recursos combinados dos gigantes da tecnologia, avanços significativos são possíveis, o que pode ser um grande passo.

Não há dúvida de que tem havido um aumento no ódio online e um declínio no discurso cívico nos últimos tempos - o que, como observado, deve ser pelo menos parcialmente atribuído aos algoritmos de compartilhamento usados ​​por plataformas sociais para aumentar o engajamento, que também facilitam o filtro bolhas, levando a perspectivas cada vez mais distorcidas. Esse é o elemento que precisa ser abordado com mais urgência - como as plataformas sociais mudam seus sistemas de compartilhamento para reduzir o foco no conteúdo que estimula a divisão?

Por exemplo, o Facebook recompensa as postagens que geram mais engajamento (ou seja, comentários, compartilhamentos, reações) com maior alcance, aumentando sua distribuição e exposição entre os 2,38 bilhões de usuários da plataforma.

Qual postagem vai inspirar mais comentários - um artigo com uma manchete que diz 'Especialistas concordam que uma ação urgente é necessária em relação à mudança climática' ou um que diz 'Mudança climática é um mito projetado para ganhar dinheiro para empresas globais'?

O próprio algoritmo do Facebook incentiva o sensacionalismo - os editores que jogam o jogo do Facebook vencem publicando pontos de vista mais divisivos e extremos. Adicione a isso o fato de que, uma vez que você tenha mostrado o conteúdo em que está interessado, o Facebook mostrará mais do mesmo, a fim de mantê-lo engajado, e é claro que o algoritmo do Facebook é, pelo menos parcialmente, o culpado por tais divisões , e os algoritmos subsequentes implementados em outras plataformas seguem um processo muito semelhante.

Este é um elemento-chave que precisa ser abordado, que não é especificamente mencionado na Chamada de Christchurch. O facto de as empresas se terem empenhado em agir é um passo positivo, mas são os próprios sistemas que tornam as plataformas sociais cada vez mais apelativas que também fazem parte da causa destas preocupações associadas.