Tech Giants簽署了“基督城電話”以解決極端主義內容的蔓延

克賴斯特徹奇的恐怖襲擊造成51人死亡，50受傷，這凸顯了數字媒體界的新關注-數字平台，尤其是社交網絡正在加劇主要的社會分化和地下運動，可能導致悲劇性後果。

過去，對極端主義內容的多數關注都集中在已建立的恐怖組織的激進化上，但是克賴斯特徹奇襲擊事件強調了還必須注意局部仇恨言論的興起的重要性，因為仇恨言論可以完全導致另一種激化形式。 這種轉變至少可以部分歸因於社交媒體和共享算法，這些算法可以向用戶顯示更多他們喜歡的東西-並且他們很可能會同意-減少他們不希望看到的東西，從而導致用戶更加偏頗，觀點不平衡。

此外，基督城的攻擊者在Facebook上實時直播了他的行為，社交媒體與此類運動之間的聯繫越來越明顯。

那麼如何解決這個問題呢？

本週，來自《 Facebook》，Twitter，微軟，谷歌和亞馬遜的代表參加了在巴黎舉行的會議，討論了他們可以採取的下一步行動，以遏制恐怖主義和極端主義在網上的蔓延。 由法國總統伊曼紐爾·馬克龍（Emmanuel Macron）和新西蘭總理雅辛達·阿登（Jacinda Ardern）主持的會議的結果是“基督城召喚”，這是一項九點戰略，“確定了該行業將採取的具體步驟來解決技術濫用問題”。散佈恐怖分子的內容。”

根據官方網站：

“基督城電話會議是政府和科技公司對消除在線恐怖主義和暴力極端主義內容的承諾。它基於這樣的信念，即免費，開放和安全的互聯網將為社會帶來非凡的利益。尊重言論自由是至關重要的。但是，沒有人有權在線創建和共享恐怖和暴力極端主義內容。”

與會者一致同意的基督城召喚的內容如下：

• 更新的使用條款-科技巨頭將各自更新其使用條款，以“明確禁止散佈恐怖和暴力極端主義內容”。 我們已經看到了Facebook的第一步，該公司最近在其仇恨言論政策下禁止了幾位知名的政治評論員，隨著其他平台對煽動仇恨的內容實施更嚴格的規定，您可以期待更多類似的做法。
• 改進的極端主義內容舉報流程-簽署者承諾在其平台和服務中建立新方法，以便用戶舉報或舉報不當內容。 兩家公司還將尋求確保報告機制清晰易用，並提供足夠的分類詳細信息，以幫助其團隊確定優先級並就相關問題及時採取行動。
• 改進的技術-簽署者已承諾繼續投資於先進技術，以檢測和消除極端主義內容，其中包括持續開發視覺識別工具。 Facebook本週早些時候承諾將再投入750萬美元用於此類研究。
• 專注於直播的風險-如前所述，克賴斯特徹奇的攻擊者使用Facebook Live在網上直播了他的動作，特別是對直播能力的關注尤其突出。 簽署人已承諾實施“增強的審查措施（例如，流媒體評分或分數，帳戶活動或驗證過程），並在適當情況下對某些直播事件進行審核”。 鑑於直播內容的性質，這對警察來說是一個困難的領域，將需要採取更多行動來解決潛在的問題。
• 透明度報告-簽署人還承諾在其平台和服務上發布有關檢測和清除恐怖或暴力極端主義內容的定期更新

除了這些特定於平台的措施，以下四點將在整個公司中更廣泛地應用。

• 共享技術的開發-簽署者致力於跨行業，政府，教育機構和NGO開展合作，以“對發布恐怖和暴力極端主義內容的環境形成共識，並改進檢測和消除恐怖和暴力的技術極端主義的內容更加有效和高效”。 通過合作，兩家公司將能夠更快地改進其工具和流程，從而加強安全措施。
• 危機協議-簽署者還將合作制定協議，以緊急應對突發事件或突發事件，以確保相關信息可以快速共享，並由所有利益相關者以最小的延遲採取行動。
• 教育-簽署者還將在行業，政府，教育機構和非政府組織之間進行合作，以“幫助在線了解和教育公眾有關恐怖分子和極端主義暴力的內容”。 該過程將包括教育和提醒用戶如何舉報或以其他方式不助長極端主義內容的傳播。
• 對抗仇恨和偏執- 最後，簽署者承諾將共同努力，為相關研究提供更大的支持，以發現並解決極端主義和仇恨的根源。 顯然，這是一個更大的目標，但是藉助技術巨頭的綜合資源，可能會取得重大進展，這可能是巨大的一步。

毫無疑問，最近網上仇恨有所增加，公民話語有所減少-如前所述，這至少部分要歸因於社交平台用來促進參與度的共享算法，這也有助於過濾泡沫，導致觀點越來越不對稱。 這是最迫切需要解決的要素-社交平台如何更改其共享系統，以減少對內容的關注，從而刺激分裂？

例如，Facebook獎勵那些具有更大參與度的帖子（例如評論，分享，反應），並擴大覆蓋範圍，從而增加了其在平台23.8億用戶中的分佈和曝光率。

哪個帖子會激發更多評論-一篇標題為“專家同意應對氣候變化採取緊急行動”或標題為“氣候變化是旨在為全球公司賺錢的神話”的文章？

Facebook的算法很容易激發轟動效應-玩Facebook遊戲的發行商會通過發布更具分歧性的極端觀點而勝出。 此外，事實是，一旦您顯示了您感興趣的內容，Facebook就會向您顯示更多相同內容，以保持您的參與度，而且很明顯，Facebook的算法至少部分歸咎於這種分歧，並且在其他平台上實現的後續算法遵循非常相似的過程。

這是需要解決的關鍵要素，在《基督城電話》中沒有特別提及。 公司致力於採取行動的事實是一個積極的步驟，但正是正是這些系統使社交平台越來越吸引人，這也是引起這些相關問題的部分原因。