Los gigantes tecnológicos se inscriben en la 'Llamada de Christchurch' para abordar la propagación de contenido extremista

Los ataques terroristas de Christchurch, en los que murieron 51 personas y 50 resultaron heridas, destacaron una nueva preocupación en los círculos de los medios digitales: que las plataformas digitales, y las redes sociales en particular, están alimentando importantes divisiones sociales y movimientos clandestinos, que pueden tener consecuencias trágicas. .

Gran parte del enfoque en el contenido extremista en el pasado se ha centrado en la radicalización por parte de grupos terroristas establecidos, pero los ataques de Christchurch subrayaron la importancia de señalar también el aumento del discurso de odio localizado, que puede conducir a otra forma de radicalización por completo. Ese cambio se puede atribuir, al menos en parte, a las redes sociales y a los algoritmos de intercambio que muestran a los usuarios más de lo que les gusta, y con lo que es probable que estén de acuerdo, y menos de lo que no les gusta, lo que conduce a una visión más sesgada. perspectiva desequilibrada.

Agregue a eso el hecho de que el atacante de Christchurch transmitió en vivo sus acciones en Facebook, y la conexión entre las redes sociales y tales movimientos es cada vez más clara.

Entonces, ¿qué se puede hacer para abordar este problema?

Esta semana, representantes de Facebook, Twitter, Microsoft, Google y Amazon asistieron a una reunión en París para discutir los próximos pasos que pueden tomar para frenar la propagación del terrorismo y el extremismo en línea. El resultado de la reunión, que fue organizada por el presidente francés Emmanuel Macron y la primera ministra de Nueva Zelanda, Jacinda Ardern, es 'The Christchurch Call', una estrategia de nueve puntos que "establece pasos concretos que la industria tomará para abordar el abuso de tecnología. para difundir contenido terrorista ".

Según el sitio web oficial:

"El Llamado de Christchurch es un compromiso de los gobiernos y las empresas de tecnología para eliminar el contenido terrorista y extremista violento en línea. Se basa en la convicción de que una Internet libre, abierta y segura ofrece beneficios extraordinarios a la sociedad. El respeto por la libertad de expresión es fundamental. Sin embargo, nadie tiene derecho a crear y compartir contenido terrorista y extremista violento en línea ".

Los elementos de la Llamada de Christchurch, acordados por todos los asistentes, son los siguientes:

• Términos de uso actualizados : los gigantes tecnológicos actualizarán sus términos de uso para " prohibir expresamente la distribución de contenido terrorista y extremista violento". Ya hemos visto los primeros pasos de esto de Facebook, que recientemente prohibió a varios comentaristas políticos conocidos bajo su política de incitación al odio, y puede esperar más en este sentido a medida que las otras plataformas implementan reglas más estrictas sobre el contenido que incita al odio.
• Procesos de denuncia mejorados para contenido extremista : los firmantes se comprometieron a establecer nuevos métodos dentro de sus plataformas y servicios para que los usuarios denuncien o marquen contenido inapropiado. Las empresas también buscarán asegurarse de que los mecanismos de denuncia sean claros y fáciles de usar, y proporcionen suficientes detalles categóricos para ayudar a sus equipos a priorizar y actuar con prontitud sobre las preocupaciones relevantes.
• Tecnología mejorada : los firmantes se han comprometido a seguir invirtiendo en tecnología avanzada para detectar y eliminar contenido extremista, lo que incluye el desarrollo continuo de herramientas de reconocimiento visual. Facebook comprometió $ 7.5 millones adicionales para dicha investigación a principios de esta semana.
• Enfoque dedicado a los riesgos de la transmisión en vivo : como se señaló, el atacante de Christchurch usó Facebook Live para transmitir sus acciones en línea, destacando una preocupación significativa con la capacidad de transmisión en vivo en particular. Los firmantes se han comprometido a implementar "medidas de investigación mejoradas (como calificaciones o puntajes de transmisores, actividad de la cuenta o procesos de validación) y moderación de ciertos eventos de transmisión en vivo cuando corresponda". Dada la naturaleza del contenido en vivo, esta es un área difícil de controlar, y se requerirán más acciones para abordar las posibles preocupaciones.
• Informes de transparencia : los firmantes también se han comprometido a publicar actualizaciones periódicas sobre la detección y eliminación de contenido terrorista o extremista violento en sus plataformas y servicios.

Además de estas medidas específicas de la plataforma, los siguientes cuatro puntos se aplicarán de manera más amplia en todas las empresas.

• Desarrollo de tecnología compartida : los firmantes se han comprometido a trabajar en colaboración con la industria, el gobierno, las instituciones educativas y las ONG "para desarrollar una comprensión compartida de los contextos en los que se publica contenido de terroristas y extremistas violentos y para mejorar la tecnología para detectar y eliminar terroristas y violentos contenido extremista de forma más eficaz y eficiente ". Al trabajar en colaboración, las empresas podrán hacer avanzar sus herramientas y procesos aún más rápido, impulsando las medidas de seguridad.
• Protocolos de crisis : los firmantes también trabajarán en colaboración para crear un protocolo para responder a eventos emergentes o activos de manera urgente, para garantizar que la información relevante se pueda compartir rápidamente y que todas las partes interesadas puedan actuar en consecuencia con un retraso mínimo.
• Educación : los firmantes también trabajarán en colaboración con la industria, el gobierno, las instituciones educativas y las ONG "para ayudar a comprender y educar al público sobre el contenido violento terrorista y extremista en línea". El proceso incluirá educar y recordar a los usuarios cómo denunciar o no contribuir a la difusión de contenido extremista.
• Combatir el odio y la intolerancia - Por último, los firmantes se han comprometido a trabajar en colaboración para brindar un mayor apoyo a la investigación relevante con el fin de detectar y abordar las causas fundamentales del extremismo y el odio. Este es un objetivo mucho mayor, obviamente, pero con los recursos combinados de los gigantes tecnológicos, son posibles avances significativos, lo que podría ser un gran paso.

No hay duda de que ha habido un aumento en el odio en línea y una disminución en el discurso cívico en los últimos tiempos, lo que, como se señaló, debe atribuirse al menos en parte a los algoritmos de intercambio utilizados por las plataformas sociales para impulsar el compromiso, que también facilitan el filtrado. burbujas, lo que lleva a perspectivas cada vez más sesgadas. Ese es el elemento que debe abordarse con más urgencia: ¿cómo cambian las plataformas sociales sus sistemas de intercambio para reducir el enfoque en el contenido que estimula la división?

Por ejemplo, Facebook recompensa las publicaciones que obtienen más participación (es decir, comentarios, acciones, reacciones) con un mayor alcance, lo que impulsa su distribución y exposición entre los 2.38 mil millones de usuarios de la plataforma.

¿Qué publicación va a inspirar más comentarios, un artículo con un titular que dice 'Los expertos están de acuerdo en que se requiere una acción urgente sobre el cambio climático' o uno que dice 'El cambio climático es un mito diseñado para hacer dinero para las corporaciones globales'?

El mismo algoritmo de Facebook incentiva el sensacionalismo: los editores que juegan el juego de Facebook ganan al publicar puntos de vista más divisivos y extremos. Agregue a eso el hecho de que una vez que haya mostrado el contenido que le interesa, Facebook le mostrará más de lo mismo, para mantenerlo involucrado, y está claro que el algoritmo de Facebook es, al menos en parte, el culpable de tales divisiones. , y los algoritmos posteriores implementados en otras plataformas siguen un proceso muy similar.

Este es un elemento clave que debe abordarse, que no se menciona específicamente en el Llamado de Christchurch. El hecho de que las empresas se hayan comprometido a actuar es un paso positivo, pero son los mismos sistemas los que han hecho que las plataformas sociales sean cada vez más atractivas y que también son parte de la causa de estas preocupaciones asociadas.