Tech Giants, 극단주의 콘텐츠의 확산을 해결하기위한 'Christchurch Call'에 가입

51 명이 사망하고 50 명이 부상당한 크라이스트 처치 테러 공격 은 디지털 미디어 계의 새로운 우려를 강조했습니다. 디지털 플랫폼과 특히 소셜 네트워크가 주요 사회 분열과 지하 운동을 촉진하고 있으며 이는 비극적 인 결과를 초래할 수 있습니다. .

과거에 극단주의 콘텐츠에 대한 초점의 대부분은 기존 테러 집단에 의한 급 진화에 초점을 맞추었지만 크라이스트 처치 공격은 지역화 된 증오 발언의 증가를 주목하는 것의 중요성을 강조했으며, 이는 완전히 다른 형태의 급 진화로 이어질 수 있습니다. 이러한 변화는 적어도 부분적으로는 소셜 미디어와 사용자가 좋아하는 것을 더 많이 보여주고 동의 할 가능성이 높은 공유 알고리즘에 기인 할 수 있습니다. 불균형 한 관점.

여기에 크라이스트 처치 공격자가 페이스 북에서 자신의 행동을 생중계했으며 소셜 미디어와 그러한 움직임 사이의 연결이 점점 더 명확 해졌다는 사실을 덧붙입니다.

그렇다면이 문제를 해결하기 위해 무엇을 할 수 있습니까?

이번 주에 F acebook, Twitter, Microsoft, Google 및 Amazon의 대표자들은 온라인에서 테러와 극단주의의 확산을 막기 위해 취할 수있는 다음 조치를 논의하기 위해 파리에서 열린 회의에 참석했습니다. Emmanuel Macron 프랑스 대통령과 Jacinda Ardern 뉴질랜드 총리가 주최 한 회의의 결과는 "기술 남용 문제를 해결하기 위해 업계가 취할 구체적인 조치를 제시하는 9 가지 전략 인 'The Christchurch Call"입니다. 테러리스트 콘텐츠를 전파합니다. "

공식 웹 사이트에 따르면 :

"Christchurch Call은 온라인에서 테러리스트 및 폭력적인 극단주의 콘텐츠를 제거하겠다는 정부와 기술 회사의 약속입니다. 무료로 개방 된 안전한 인터넷이 사회에 특별한 혜택을 제공한다는 신념에 기반합니다. 표현의 자유에 대한 존중은 기본입니다. 그러나, 어느 누구도 온라인에서 테러리스트 및 폭력적인 극단주의 콘텐츠를 만들고 공유 할 권리가 없습니다. "

참석 한 모든 사람들이 동의 한 크라이스트 처치 부름의 요소는 다음과 같습니다.

• 업데이트 된 사용 약관 -기술 대기업은 각각 " 테러리스트 및 폭력적인 극단주의 콘텐츠의 배포를 명시 적으로 금지 하기 위해"사용 약관을 업데이트 할 것 입니다. 우리는 이미 페이스 북의 첫 번째 단계를 보았습니다. Facebook은 최근에 혐오 발언 정책에 따라 몇몇 유명한 정치 평론가를 금지했으며, 다른 플랫폼이 증오를 조장하는 콘텐츠에 대해 더 엄격한 규칙을 구현하기 때문에 이러한 라인을 따라 더 많은 것을 기대할 수 있습니다.
• 극단적 인 콘텐츠에 대한 개선 된보고 프로세스 - 서명자들은 사용자가 부적절한 콘텐츠를보고하거나 플래그를 지정할 수 있도록 플랫폼 및 서비스 내에 새로운 방법을 설정하기 위해 노력했습니다. 또한 회사는보고 메커니즘이 명확하고 사용하기 쉬운 지 확인하고 팀이 관련 문제에 대한 우선 순위를 지정하고 신속하게 조치 할 수 있도록 충분한 범주 세부 정보를 제공 할 것입니다.
• 개선 된 기술 -서명자들은 시각적 인식 도구의 지속적인 개발을 포함하여 극단 주의적 콘텐츠를 감지하고 제거하기 위해 고급 기술에 지속적으로 투자하기로 약속했습니다. 페이스 북은 이번 주 초 그러한 연구에 750 만 달러를 추가로 투입했습니다.
• 라이브 스트리밍의 위험에 대한 집중 -앞서 언급했듯이 크라이스트 처치 공격자는 Facebook Live를 사용하여 자신의 행동을 온라인으로 스트리밍했으며 특히 라이브 스트리밍 용량에 대한 중요한 우려를 강조했습니다. 서명자들은 "향상된 검토 조치 (예 : 스 트리머 등급 또는 점수, 계정 활동 또는 검증 프로세스) 및 적절한 경우 특정 라이브 스트리밍 이벤트의 조정"을 구현하기 위해 노력했습니다. 라이브 콘텐츠의 특성을 감안할 때 이것은 경찰이되기 어려운 영역이며 잠재적 인 문제를 해결하려면 더 많은 조치가 필요합니다.
• 투명성 보고서 -서명자들은 또한 플랫폼 및 서비스에서 테러리스트 또는 폭력적 극단주의 콘텐츠의 탐지 및 제거에 관한 정기적 인 업데이트를 게시하기로 약속했습니다.

이러한 플랫폼 별 조치 외에도 다음 네 가지 사항이 회사 전체에 더 광범위하게 적용될 것입니다.

• 공유 기술 개발 -서명자들은 산업, 정부, 교육 기관 및 NGO간에 협력하여 "테러리스트 및 폭력적 극단주의 콘텐츠가 게시되는 상황에 대한 공유 된 이해를 개발하고 테러리스트 및 폭력을 탐지 및 제거하는 기술을 개선하기 위해 노력했습니다." 극단주의 콘텐츠를보다 효과적이고 효율적으로 ". 협업을 통해 회사는 도구와 프로세스를 더욱 빠르게 발전시켜 안전 조치를 강화할 수 있습니다.
• 위기 프로토콜 -서명자는 또한 관련 정보를 신속하게 공유하고 모든 이해 관계자가 최소한의 지연으로 조치를 취할 수 있도록 긴급한 상황에서 발생하거나 활발한 이벤트에 대응하기위한 프로토콜을 만들기 위해 협력 적으로 작업 할 것입니다.
• 교육 -서명자들은 또한 "온라인에서 테러리스트 및 극단주의 폭력 콘텐츠에 대한 대중의 이해와 교육을 돕기 위해"업계, 정부, 교육 기관 및 NGO 전반에 걸쳐 협력 할 것입니다. 이 프로세스에는 극단주의 콘텐츠의 확산에 기여하거나 신고하는 방법에 대해 사용자를 교육하고 상기시키는 것이 포함됩니다.
• 증오와 편견 퇴치 - 마지막으로, 서명자들은 극단주의와 증오의 근본 원인을 발견하고 해결하기 위해 관련 연구에 더 많은 지원을 제공하기 위해 협력하기로 약속했습니다. 이것은 분명히 훨씬 더 큰 목표이지만 기술 대기업의 자원을 결합하면 상당한 발전이 가능하며 이는 큰 단계가 될 수 있습니다.

온라인 증오가 증가하고 최근에 시민 담론이 감소했다는 것은 의심 할 여지가 없습니다. 이는 언급했듯이 적어도 부분적으로는 소셜 플랫폼에서 참여를 높이고 필터를 용이하게하는 공유 알고리즘에 기인해야합니다. 점점 더 왜곡 된 관점으로 이어지는 거품. 이것이 가장 시급하게 해결되어야하는 요소입니다. 소셜 플랫폼이 공유 시스템을 어떻게 변경하여 분할을 촉진하는 콘텐츠에 대한 집중을 줄입니까?

예를 들어, Facebook은 더 많은 참여 (예 : 댓글, 공유, 반응)를 보이는 게시물에 도달 범위를 늘려 보상하여 플랫폼의 23 억 8 천만 사용자 사이에 배포 및 노출을 높입니다.

'기후 변화에 긴급한 조치가 필요하다는 데 전문가들이 동의합니다'라는 제목의 기사 또는 '기후 변화는 글로벌 기업을 위해 돈을 벌기 위해 고안된 신화'라는 제목의 기사와 같이 더 많은 의견을 불러 일으키는 게시물은 무엇입니까?

Facebook의 알고리즘 자체가 선정주의를 장려합니다. Facebook의 게임을하는 게시자는 더 분열적이고 극단적 인 관점을 게시함으로써 승리합니다. 여기에 관심있는 콘텐츠를 보여 주면 Facebook은 사용자의 참여를 유지하기 위해 더 많은 것을 보여줄 것이며 Facebook의 알고리즘이 그러한 격차에 대해 적어도 부분적으로 책임이 있다는 것이 분명합니다. , 다른 플랫폼에서 구현 된 후속 알고리즘은 매우 유사한 프로세스를 따릅니다.

이것은 크라이스트 처치 부름에서 특별히 언급되지 않은 해결해야 할 핵심 요소입니다. 회사가 조치를 취하기로 약속했다는 사실은 긍정적 인 조치이지만 이러한 관련 우려의 원인 중 하나 인 소셜 플랫폼을 점점 더 매력적으로 만든 것은 바로 시스템입니다.