有效的監管能否減少分裂內容對社交網絡的影響？

在 Facebook 文件引發的新一輪爭議風暴中，各種內部研究項目的曝光在某些方面表明 Facebook 在保護用戶免受傷害方面做得不夠，需要解決的核心問題通常是Facebook 的固有偏見和特定目標，而不是社交媒體，以及算法內容放大作為一個概念。

也就是說，我們該怎麼做才能修復它？ 實際上，可以做些什麼實際上會有所作為； 由於社交媒體應用程序的影響力越來越大，可以實施哪些法規或政策變更來減少有害、分裂性帖子的擴大，這些帖子在社會中加劇了焦慮？

在這裡更廣泛地考慮社交媒體很重要，因為每個社交平台都使用算法來定義內容分發和覆蓋範圍。 Facebook 是迄今為止最大的，對新聞內容等關鍵元素的影響更大——當然，在這種情況下，研究見解本身來自 Facebook。

具體來說，對 Facebook 的關注是有道理的，但 Twitter 也放大了激發更多參與度的內容，LinkedIn 根據它確定的最吸引人的內容對其進行分類。 TikTok 的算法高度契合您的興趣。

正如 Facebook 舉報人 Frances Haugen 所強調的那樣，問題在於算法分發，而不是 Facebook 本身——那麼我們有什麼想法可以切實改進該元素？

那麼進一步的問題是，社交平台是否願意做出這樣的改變，特別是如果它們對其參與度和用戶活動水平構成風險？

Haugen 是算法內容匹配方面的專家，他提議通過改革第 230 條法律，迫使社交網絡完全停止使用基於參與度的算法，該法律目前保護社交媒體公司免於對用戶在其應用程序中共享的內容承擔法律責任.

正如豪根所解釋的：

“如果我們有適當的監督，或者如果我們改革 [Section] 230 以讓 Facebook 對其故意排名決定的後果負責，我認為他們將擺脫基於參與度的排名。”

這裡的概念是，Facebook——以及所有社交平台——將對它們放大某些內容的方式負責。 因此，如果更多人最終因為算法干預而看到 COVID 錯誤信息，Facebook 可能會對任何影響承擔法律責任。

這將給圍繞此類算法構建的任何決策增加重大風險，正如 Haugen 指出的那樣，這可能會導致平台被迫退出基於用戶如何與此類內容交互來提高帖子覆蓋範圍的措施.

從本質上講，這可能會導致社交平台被迫返回算法前的日子，那時 Facebook 和其他應用程序只會根據發佈時間按時間順序向您顯示頁面內容和您關注的人的列表。 反過來，這會降低人們和品牌分享更具爭議性、吸引參與度的內容的動力，以發揮算法的奇思妙想。

這個想法有一些優點——正如各種研究表明的那樣，用你的社交帖子引發情緒反應是最大化參與度的關鍵，因此，基於算法放大的影響力，在這方面，最有效的情緒是幽默和憤怒。 在算法覆蓋率的推動下，笑話和有趣的視頻在所有平台上仍然表現良好，但引起憤怒的熱門鏡頭也是如此，黨派新聞媒體和名人與之合作，這很可能是我們現在的分裂和焦慮的關鍵來源見網上。

需要明確的是，Facebook 不能對此單獨負責。 黨派出版商和有爭議的人物長期以來一直在更廣泛的討論中發揮作用，早在 Facebook 到來之前，他們就已經引發了對他們中左翼觀點的關注和參與。 現在的不同之處在於，社交網絡促進瞭如此廣泛的覆蓋範圍，同時它們還通過點贊和其他形式的參與為此類行為提供了直接激勵，個人用戶通過觸發響應而受到多巴胺的打擊，而出版商則推動了更多的推薦流量，並獲得了通過挑釁更多曝光。

確實，在考慮前一個結果時，一個關鍵問題是現在每個人都有發言權，當每個人都有一個分享想法和意見的平台時，我們都會更多地接觸到這些，也更加意識到。 過去，你可能不知道你叔叔的政治主張，但現在你知道了，因為社交媒體每天都會提醒你，而這種同伴分享也在更廣泛的分裂中發揮作用。

然而，豪根的論點是 Facebook 鼓勵了這一點——例如，豪根洩露給《華爾街日報》的一份報告概述了 Facebook 如何在 2018 年更新其新聞提要算法，以更加強調用戶之間的互動，並減少政治討論，這已成為應用程序中越來越分裂的元素。 Facebook 通過改變不同類型的帖子參與度的權重來做到這一點。

這個想法是，這將通過更重的回復權重來激勵更多的討論 - 但正如你可以想像的那樣，通過更加重視評論，以擴大影響範圍，這也促使更多的出版商和頁面分享越來越分裂的情緒 -收費的帖子，以引起更多的反應，從而獲得更高的分享分數。 隨著這次更新，“贊”不再像過去那樣成為影響範圍的關鍵驅動因素，Facebook 使評論和反應（包括“憤怒”）變得越來越重要。 因此，圍繞政治趨勢引發的討論實際上變得更加突出，並讓更多用戶在他們的提要中看到此類內容。

然後，基於這些內部數據的建議是，Facebook 知道這一點，它知道這種變化加劇了分裂的內容。 但他們選擇不恢復或實施另一次更新，因為參與度是其業務成功的關鍵衡量標準，因此確實增加了。

從這個意義上說，刪除算法動機是有道理的——或者，你可以考慮刪除某些帖子類型的算法激勵，比如政治討論，同時仍然最大限度地增加來自朋友的更具吸引力的帖子的覆蓋面，同時滿足參與目標和分裂擔憂。

這就是 Facebook 的 Dave Gillis 所指出的，他在該平台的產品安全團隊工作，他在一條推文中指出，以回應這些爆料。

根據吉利斯：

“在《華爾街日報》關於算法提要排名的文章結尾處，幾乎順便提到了我們在新聞提要中放棄了基於參與度的公民和健康內容排名。 但是等等——這很重要，不是嗎？ 按喜歡等對貓視頻和嬰兒照片進行排名可能是合理的，但要更加小心地處理其他類型的內容。 事實上，這就是我們的團隊提倡的做法：對健康和公民內容使用不同的排名信號，優先考慮質量 + 可信度而不是參與度。 我們努力了解影響，讓領導參與進來——是的，馬克也是——這是一個重要的變化。 ”

這可能是一種前進的方式，對不同類型的內容使用不同的排名信號，這可能有助於優化內容放大，提高有益的用戶參與度，同時也減少某些參與者發布分裂材料以輸入算法的動機抵達。

那行得通嗎？ 再說一次，這很難說，因為人們仍然可以分享帖子，他們仍然可以在線評論和重新分發材料，在算法本身之外仍有很多方式可以進行放大。

從本質上講，這兩種建議都有其優點，即社交平台可以區別對待不同類型的內容，或者可以消除算法以減少此類材料的放大。

正如豪根所說，關注系統本身很重要，因為當材料以其他語言和地區發佈時，基於內容的解決方案會帶來各種複雜性。

“就埃塞俄比亞而言，有 1 億人口和六種語言。 Facebook 僅支持其中兩種語言用於完整性系統。 這種專注於特定語言、特定內容系統的人工智能來拯救我們的策略注定要失敗。”

那麼，也許移除算法，或者至少改變算法運行方式的規定，將是一個最佳解決方案，這有助於減少社交媒體領域的負面、引發憤怒的內容的影響。

但隨後我們又回到了 Facebook 算法旨在解決的原始問題——早在 2015 年，Facebook 就解釋說，它需要 News Feed 算法不僅可以最大限度地提高用戶參與度，還可以幫助確保人們看到大多數人的所有更新。與他們的相關性。

正如它所解釋的那樣，根據他們喜歡的頁面和他們的個人關係，當時的平均 Facebook 用戶在任何一天都有大約 1, 500 個帖子有資格出現在他們的新聞提要中 - 而對於一些更活躍的用戶來說，這個數字更像是 15,000。 人們不可能每天都閱讀這些更新，因此 Facebook 最初算法的重點是創建一個系統，為每個人發現最好、最相關的內容，以便為用戶提供最引人入勝的體驗，然後讓他們回來。

正如 Facebook 的首席產品官 Chris Cox 向時代雜誌解釋的那樣：

“如果你能評價今天地球上發生的一切，由你的任何朋友、任何家人、任何新聞來源在任何地方發表，然後選出今天最有意義的 10 個，那將是一個非常酷的“為我們構建服務。這確實是我們渴望讓 News Feed 成為的樣子。”

從那時起，News Feed 方法已經發生了很大的變化，但它旨在解決的基本挑戰仍然存在。 人們有太多的聯繫，他們關注了太多的頁面，他們是太多組的成員，以至於每天都無法獲得所有更新。 如果沒有提要算法，他們將錯過相關的帖子、家庭公告和生日等相關更新，他們根本不會像 Facebook 那樣參與體驗。

如果沒有該算法，Facebook 將因無法針對受眾的需求進行優化而失敗——正如作為 Facebook 文件的一部分共享的另一份報告中所強調的那樣，它實際上已經看到某些人口統計子集的參與度下降。

你可以想像，如果 Facebook 取消該算法，或者被迫改變其方向，那麼隨著時間的推移，這個圖表只會變得更糟。

因此，Zuck 和 Co. 不太可能熱衷於該解決方案，因此像 Gillis 提出的妥協方案可能是可以預期的最佳方案。 但這也有其自身的缺陷和風險。

無論哪種方式，值得注意的是，辯論的焦點需要更廣泛地轉移到算法上，而不僅僅是 Facebook，以及是否真的有一種可行的、可行的方法來改變圍繞基於算法的系統的激勵以限制分佈更多分裂的元素。

因為這是一個問題，無論 Facebook 或其他任何人如何試圖旋轉它，這就是豪根的立場很重要的原因，因為它很可能會引發我們圍繞這個關鍵要素展開一場新的、更微妙的辯論。