Tech Giants签署了“基督城电话”以解决极端主义内容的蔓延

克赖斯特彻奇的恐怖袭击造成51人死亡，50受伤，这凸显了数字媒体界的新关注-数字平台，尤其是社交网络正在加剧主要的社会分化和地下运动，可能导致悲剧性后果。

过去，对极端主义内容的多数关注都集中在已建立的恐怖组织的激进化上，但是克赖斯特彻奇袭击事件强调了还必须注意局部仇恨言论的兴起的重要性，因为仇恨言论可以完全导致另一种激化形式。 这种转变至少可以部分归因于社交媒体和共享算法，这些算法可以向用户显示更多他们喜欢的东西-并且他们很可能会同意-减少他们不希望看到的东西，从而导致用户更加偏颇，观点不平衡。

此外，基督城的攻击者在Facebook上实时直播了他的行为，社交媒体与此类运动之间的联系越来越明显。

那么如何解决这个问题呢？

本周，来自《 Facebook》，Twitter，微软，谷歌和亚马逊的代表参加了在巴黎举行的会议，讨论了他们可以采取的下一步行动，以遏制恐怖主义和极端主义在网上的蔓延。 由法国总统伊曼纽尔·马克龙（Emmanuel Macron）和新西兰总理雅辛达·阿登（Jacinda Ardern）主持的会议的结果是“基督城召唤”，这是一项九点战略，“确定了该行业将采取的具体步骤来解决技术滥用问题”。散布恐怖分子的内容。”

根据官方网站：

“基督城电话会议是政府和科技公司对消除在线恐怖主义和暴力极端主义内容的承诺。它基于这样的信念，即免费，开放和安全的互联网将为社会带来非凡的利益。尊重言论自由是至关重要的。但是，没有人有权在线创建和共享恐怖和暴力极端主义内容。”

与会者一致同意的基督城召唤的内容如下：

• 更新的使用条款-科技巨头将各自更新其使用条款，以“明确禁止散布恐怖和暴力极端主义内容”。 我们已经看到了Facebook的第一步，该公司最近在其仇恨言论政策下禁止了几位知名的政治评论员，随着其他平台对煽动仇恨的内容实施更严格的规定，您可以期待更多类似的做法。
• 改进的极端主义内容举报流程-签署者承诺在其平台和服务中建立新方法，以便用户举报或举报不当内容。 两家公司还将寻求确保报告机制清晰易用，并提供足够的分类详细信息，以帮助其团队确定优先级并就相关问题及时采取行动。
• 改进的技术-签署者已承诺继续投资于先进技术，以检测和消除极端主义内容，其中包括持续开发视觉识别工具。 Facebook本周早些时候承诺将再投入750万美元用于此类研究。
• 专注于直播的风险-如前所述，克赖斯特彻奇的攻击者使用Facebook Live在网上直播了他的动作，特别是对直播能力的关注尤其突出。 签署人已承诺实施“增强的审查措施（例如，流媒体评分或分数，帐户活动或验证过程），并在适当情况下对某些直播事件进行审核”。 鉴于直播内容的性质，这对警察来说是一个困难的领域，将需要采取更多行动来解决潜在的问题。
• 透明度报告-签署人还承诺在其平台和服务上定期发布有关检测和清除恐怖或暴力极端主义内容的最新信息

除了这些特定于平台的措施，以下四点将在整个公司中更广泛地应用。

• 共享技术的开发-签署者致力于跨行业，政府，教育机构和NGO进行合作，以“对发布恐怖和暴力极端主义内容的环境形成共识，并改善检测和消除恐怖和暴力的技术极端主义的内容更加有效和高效”。 通过合作，两家公司将能够更快地改进其工具和流程，从而加强安全措施。
• 危机协议-签署者还将合作制定协议，以紧急应对突发事件或突发事件，以确保相关信息可以快速共享，并由所有利益相关者以最小的延迟采取行动。
• 教育-签署者还将在行业，政府，教育机构和非政府组织之间进行合作，以“帮助在线了解和教育公众有关恐怖分子和极端主义暴力的内容”。 该过程将包括教育和提醒用户如何举报或以其他方式不助长极端主义内容的传播。
• 对抗仇恨和偏执- 最后，签署者承诺将共同努力，为相关研究提供更大的支持，以发现并解决极端主义和仇恨的根源。 显然，这是一个更大的目标，但是借助技术巨头的综合资源，可能会取得重大进展，这可能是巨大的一步。

毫无疑问，最近网上仇恨有所增加，公民话语有所减少-如前所述，这至少部分要归因于社交平台用来促进参与度的共享算法，这也有助于过滤泡沫，导致观点越来越不对称。 这是最迫切需要解决的要素-社交平台如何更改其共享系统，以减少对内容的关注，从而刺激分裂？

例如，Facebook奖励那些具有更大参与度的帖子（例如评论，分享，反应），并扩大覆盖范围，从而增加了该帖子在该平台23.8亿用户中的分布和曝光率。

哪个帖子会激发更多评论-一篇标题为“专家同意应对气候变化采取紧急行动”或标题为“气候变化是旨在为全球公司赚钱的神话”的文章？

Facebook的算法很容易激发轰动效应-玩Facebook游戏的发行商会通过发布更具分歧性的极端观点而胜出。 此外，事实是，一旦您显示了您感兴趣的内容，Facebook就会向您显示更多相同内容，以保持您的参与度，而且很明显，Facebook的算法至少部分归咎于这种分歧，并且在其他平台上实现的后续算法遵循非常相似的过程。

这是需要解决的关键要素，在《基督城电话》中没有特别提及。 公司致力于采取行动的事实是一个积极的步骤，但正是正是这些系统使社交平台越来越吸引人，这也是引起这些相关问题的部分原因。