過激派コンテンツの拡散に対処するための「クライストチャーチコール」へのテックジャイアンツのサインアップ

公開: 2021-03-01

51人が殺され、50人が負傷したクライストチャーチのテロ攻撃は、デジタルメディア界における新たな懸念を浮き彫りにしました。デジタルプラットフォーム、特にソーシャルネットワークが、主要な社会的分裂と地下運動を助長し、悲劇的な結果につながる可能性があるということです。。

過去の過激派コンテンツへの焦点の多くは、確立されたテログループによる過激化に焦点を当ててきましたが、クライストチャーチの攻撃は、完全に別の形態の過激化につながる可能性のある、局所的なヘイトスピーチの台頭にも注目することの重要性を強調しました。その変化は、少なくとも部分的にはソーシャルメディアに起因する可能性があり、共有アルゴリズムは、ユーザーが好きなものをより多く表示し、同意する可能性が高く、そうでないものを少なくするため、より歪曲されます。不均衡な視点。

それに加えて、クライストチャーチの攻撃者がFacebookで自分の行動をライブストリーミングしたという事実に加えて、ソーシャルメディアとそのような動きとの関係はますます明確になっています。

では、この問題に取り組むために何ができるでしょうか？

今週、フェイスブック、ツイッター、マイクロソフト、グーグル、アマゾンの代表者がパリで開催された会議に出席し、オンラインでのテロや過激主義の蔓延を抑えるために取れる次のステップについて話し合った。フランスのエマニュエル・マクロン大統領とニュージーランドのジャシンダ・アーダーン首相が主催した会議の結果は、「テクノロジーの乱用に対処するために業界がとる具体的なステップを示す9つの戦略である「クライストチャーチ・コール」です。テロリストのコンテンツを広めるために。」

公式ウェブサイトによると：

「クライストチャーチコールは、テロリストや暴力的な過激主義者のコンテンツをオンラインで排除するという政府やテクノロジー企業の取り組みです。無料でオープンで安全なインターネットは社会に並外れた利益をもたらすという信念に基づいています。表現の自由の尊重は基本です。しかし、テロリストや暴力的な過激主義者のコンテンツをオンラインで作成して共有する権利は誰にもありません。」

出席者全員が同意したクライストチャーチコールの要素は次のとおりです。

更新された利用規約-技術大手はそれぞれ、「テロリストや暴力的な過激主義者のコンテンツの配布を明示的に禁止する」ために利用規約を更新します。 Facebookは、ヘイトスピーチポリシーに基づいて有名な政治評論家を最近禁止しました。他のプラットフォームが憎悪を扇動するコンテンツに対してより厳しいルールを実装しているため、これらの方針に沿ってさらに多くのことが期待できます。
過激派コンテンツの報告プロセスの改善-署名者は、ユーザーが不適切なコンテンツを報告またはフラグ付けするために、プラットフォームおよびサービス内に新しい方法を確立することを約束しました。また、企業は、報告メカニズムが明確で使いやすいことを確認し、チームが関連する懸念事項に優先順位を付けて迅速に行動するのに役立つ十分なカテゴリの詳細を提供するよう努めます。
改善された技術-署名者は、視覚認識ツールの継続的な開発を含む、過激派のコンテンツを検出および削除するための高度な技術への投資を継続することを約束しました。 Facebookは今週初めにそのような研究にさらに750万ドルを約束した。
ライブストリーミングのリスクに専念-前述のように、クライストチャーチの攻撃者はFacebook Liveを使用して自分のアクションをオンラインでストリーミングし、特にライブストリーミング容量に関する重大な懸念を浮き彫りにしました。署名者は、「強化された審査手段（ストリーマーの評価やスコア、アカウントアクティビティ、検証プロセスなど）と、必要に応じて特定のライブストリーミングイベントのモデレート」を実装することを約束しました。ライブコンテンツの性質を考えると、これは監視が難しい領域であり、潜在的な懸念に対処するために、より多くのアクションが必要になります。
透明性レポート-署名者は、プラットフォームとサービスでのテロリストまたは暴力的な過激主義コンテンツの検出と削除に関する定期的な更新を公開することも約束しています。

これらのプラットフォーム固有の対策に加えて、次の4つのポイントが企業全体にさらに広く適用されます。

共有テクノロジーの開発-署名者は、業界、政府、教育機関、NGO全体で協力して、「テロリストと暴力的な過激主義のコンテンツが公開されている状況についての共通の理解を深め、テロリストと暴力的なコンテンツを検出して削除するテクノロジーを改善することを約束しました。過激主義のコンテンツをより効果的かつ効率的に」。協力することで、企業はツールとプロセスをさらに迅速に進歩させ、安全対策を強化することができます。
危機プロトコル-署名者はまた、緊急に緊急またはアクティブなイベントに対応するためのプロトコルを作成するために協力して作業し、関連情報を迅速に共有し、すべての利害関係者が最小限の遅延で対応できるようにします。
教育-署名者はまた、業界、政府、教育機関、およびNGO全体で協力して、「オンラインでのテロリストおよび過激派の暴力的なコンテンツについて一般の人々を理解し、教育するのを支援します」。このプロセスには、過激派コンテンツの拡散に報告する方法や貢献しない方法についてユーザーを教育し、思い出させることが含まれます。
憎しみと偏見との闘い- 最後に、署名者は、過激主義と憎悪の根本原因を検出して対処するために、関連する研究に対してより大きな支援を提供するために協力して取り組むことを約束しました。これは明らかにはるかに大きな目標ですが、技術の巨人のリソースを組み合わせることで、大幅な進歩が可能になり、大きな一歩になる可能性があります。

最近、オンラインでの憎悪が高まり、市民の言説が減少していることは間違いありません。これは、前述のように、エンゲージメントを高めるためにソーシャルプラットフォームで使用される共有アルゴリズムに少なくとも部分的に起因している必要があります。泡、ますます歪んだ視点につながります。これが最も緊急に対処する必要のある要素です。ソーシャルプラットフォームは、分割を促進するコンテンツへの集中を減らすために、共有システムをどのように変更するのでしょうか。

たとえば、Facebookは、リーチを拡大することでより多くのエンゲージメント（つまり、コメント、共有、リアクション）が見られる投稿に報酬を与え、プラットフォームの23.8億人のユーザーの間での配信と露出を高めます。

より多くのコメントを刺激する投稿はどれですか？「気候変動には緊急の行動が必要であることに専門家が同意する」という見出しの記事、または「気候変動はグローバル企業のためにお金を稼ぐために設計された神話」と書かれた記事ですか？

Facebookのアルゴリズムは、センセーショナルなものを刺激します。Facebookのゲームをプレイするパブリッシャーは、より分裂的で極端な視点を公開することで勝利を収めます。それに加えて、興味のあるコンテンツを表示すると、Facebookはあなたを引き付け続けるために、同じものをより多く表示します。Facebookのアルゴリズムが少なくとも部分的にそのような分割のせいであることは明らかです。、および他のプラットフォームに実装された後続のアルゴリズムは、非常に類似したプロセスに従います。

これは対処する必要のある重要な要素であり、クライストチャーチコールでは特に言及されていません。企業が行動を起こすことを約束したという事実は前向きな一歩ですが、ソーシャルプラットフォームをますます魅力的にしているのはまさにシステムであり、これらの関連する懸念の原因の一部でもあります。