Poate o reglementare eficientă să reducă impactul conținutului divizabil asupra rețelelor sociale?

Pe fondul unei noi furtuni de controverse declanșate de The Facebook Files, o expunere a diferitelor proiecte de cercetare interne care, într-un fel, sugerează că Facebook nu face suficient pentru a proteja utilizatorii de rău, întrebarea principală care trebuie abordată este adesea distorsionat de părtinire inerentă și de direcționarea specifică a Facebook, compania, spre deosebire de rețelele sociale, și amplificarea conținutului algoritmic ca concept.

Adică ce facem să o reparăm? Ce se poate face, în mod realist, va face de fapt diferența; ce modificări ale reglementărilor sau politicii ar putea fi implementate în mod fezabil pentru a reduce amplificarea postărilor dăunătoare, divizoare, care alimentează mai multă neliniște în societate ca urmare a influenței tot mai mari a aplicațiilor de social media?

Este important să luăm în considerare rețelele sociale mai larg aici, deoarece fiecare platformă socială folosește algoritmi pentru a defini distribuția și acoperirea conținutului. Facebook este de departe cel mai mare și are o influență mai mare asupra elementelor cheie, cum ar fi conținutul de știri - și, desigur, informațiile cercetării în sine, în acest caz, au venit de la Facebook.

Concentrarea pe Facebook, în special, are sens, dar Twitter amplifică și conținutul care provoacă mai multă implicare, LinkedIn își sortează feedul în funcție de ceea ce determină că va fi cel mai captivant. Algoritmul TikTok este foarte adaptat intereselor tale.

Problema, după cum a subliniat denunțătorul Facebook Frances Haugen, este distribuția algoritmică, nu Facebook în sine – deci ce idei avem care pot îmbunătăți în mod realist acest element?

Și întrebarea ulterioară este atunci, vor fi platformele sociale dispuse să facă astfel de schimbări, mai ales dacă prezintă un risc pentru nivelul de implicare și de activitate al utilizatorilor?

Haugen, care este un expert în potrivirea conținutului algoritmic, a propus ca rețelele sociale să fie forțate să înceteze cu totul să mai folosească algoritmi bazați pe implicare, prin reforme ale legilor secțiunii 230, care protejează în prezent companiile de social media de răspunderea legală pentru ceea ce utilizatorii împărtășesc în aplicațiile lor. .

După cum a explicat Haugen:

„Dacă am avea o supraveghere adecvată sau dacă am reforma [Secțiunea] 230 pentru a face Facebook responsabil pentru consecințele deciziilor lor intenționate de clasare, cred că ar scăpa de clasarea bazată pe implicare.”

Conceptul aici este că Facebook – și, prin extensie, toate platformele sociale – ar fi trase la răspundere pentru modurile în care amplifică anumite conținuturi. Deci, dacă mai mulți oameni ajung să vadă, să zicem, dezinformări despre COVID din cauza intervenției algoritmice, Facebook ar putea fi tras la răspundere legală pentru orice impact.

Acest lucru ar adăuga un risc semnificativ oricărei decizii în legătură cu construirea unor astfel de algoritmi și, după cum notează Haugen, acest lucru ar putea vedea apoi platformele forțate să facă un pas înapoi față de măsurile care măresc acoperirea postărilor pe baza modului în care utilizatorii interacționează cu un astfel de conținut. .

În esență, aceasta ar vedea probabil ca platformele sociale să fie forțate să revină la zilele pre-algoritm, când Facebook și alte aplicații îți vor arăta pur și simplu o listă a conținutului din paginile și persoanele pe care le urmărești în ordine cronologică, pe baza timpului de postare. Aceasta, la rândul său, ar reduce apoi motivația oamenilor și a mărcilor de a împărtăși conținut mai controversat, care stimulează implicarea, pentru a juca în capriciile algoritmului.

Ideea are un oarecare merit – după cum au arătat diferite studii, declanșarea unui răspuns emoțional cu postările tale sociale este cheia pentru maximizarea angajamentului și, astfel, atingerea bazată pe amplificarea algoritmului, iar cele mai eficiente emoții, în acest sens, sunt umorul și furia. Glumele și videoclipurile amuzante încă se descurcă bine pe toate platformele, alimentate de acoperirea algoritmului, dar la fel fac și fotografiile fierbinți care provoacă furie, cu care au alergat știri și personalități partizane, care ar putea fi o sursă cheie a diviziunii și a neliniștii pe care le avem acum. vezi online.

Pentru a fi clar, Facebook nu poate fi considerat responsabil exclusiv pentru acest lucru. Editorii partizani și figurile controversate au jucat mult timp un rol în discursul mai larg și au stârnit atenția și implicarea cu opiniile lor din partea stângă a centrului cu mult înainte de apariția Facebook. Diferența acum este că rețelele sociale facilitează o acoperire atât de largă, în timp ce, de asemenea, prin Like-uri și alte forme de implicare, oferă un stimulent direct pentru astfel de, utilizatorii individuali primind o lovitură de dopamină prin declanșarea unui răspuns, iar editorii conducând mai mult trafic de recomandare și câștigând mai multă expunere prin provocare.

Într-adevăr, o problemă cheie atunci când luăm în considerare primul rezultat este că toată lumea are acum o voce, iar când toată lumea are o platformă pentru a-și împărtăși gândurile și opiniile, suntem cu toții mult mai expuși la astfel de lucruri și mult mai conștienți. În trecut, probabil că nu aveai idee despre convingerile politice ale unchiului tău, dar acum știi, pentru că rețelele de socializare îți amintesc în fiecare zi, iar acest tip de partajare între egali joacă, de asemenea, un rol într-o diviziune mai largă.

Argumentul lui Haugen, totuși, este că Facebook stimulează acest lucru – de exemplu, unul dintre rapoartele transmise de Haugen către Wall Street Journal subliniază modul în care Facebook și-a actualizat algoritmul News Feed în 2018 pentru a pune mai mult accent pe implicarea dintre utilizatori și pentru a reduce discuțiile politice, ceea ce a devenit un element din ce în ce mai dezbinător în aplicație. Facebook a făcut acest lucru modificându-și ponderarea pentru diferite tipuri de interacțiune cu postări.

Ideea a fost că acest lucru ar stimula mai multe discuții, ponderând răspunsurile mai mult - dar, după cum vă puteți imagina, punând mai multă valoare comentariilor, pentru a genera mai multă acoperire, acest lucru a determinat, de asemenea, mai mulți editori și Pagini să partajeze din ce în ce mai divizori, emoțional - postări taxate, pentru a incita mai multe reacții și pentru a obține scoruri mai mari ca rezultat. Odată cu această actualizare, Like-urile nu au mai fost motorul cheie al acoperirii, așa cum fuseseră, Facebook făcând comentarii și Reacții (inclusiv „Angry”) din ce în ce mai importante. Ca atare, declanșarea discuțiilor despre tendințele politice a devenit de fapt mai proeminentă și a expus mai mulți utilizatori la un astfel de conținut în fluxurile lor.

Sugestia atunci, pe baza acestor date interne, este că Facebook știa acest lucru, știa că această schimbare a intensificat conținutul dezbinător. Dar au optat să nu revină sau să implementeze o altă actualizare, deoarece implicarea, o măsură cheie pentru succesul afacerii sale, a crescut într-adevăr ca rezultat.

În acest sens, eliminarea motivației algoritmului ar avea sens - sau poate, ați putea încerca să eliminați stimulentele algoritmului pentru anumite tipuri de postări, cum ar fi discuțiile politice, maximizând în același timp acoperirea postărilor mai captivante de la prieteni, ținând cont atât de obiectivele de implicare, cât și de diviziune. preocupări.

Acesta este ceea ce a subliniat Dave Gillis de la Facebook, care lucrează în echipa de siguranță a produselor a platformei, într-un thread de tweet, ca răspuns la dezvăluiri.

După Gillis:

„ La sfârșitul articolului WSJ despre clasarea algoritmică a feedurilor, se menționează - aproape în trecere - că am renunțat la clasarea bazată pe implicare pentru conținutul civic și de sănătate în News Feed. Dar stai - asta e un lucru mare, nu? Probabil că este rezonabil să clasificăm, să zicem, videoclipurile cu pisici și fotografiile bebelușilor după aprecieri etc., dar gestionați alte tipuri de conținut cu mai multă grijă. Și asta este, de fapt, ceea ce echipele noastre au susținut să facă: să folosească diferite semnale de clasare pentru sănătate și conținut civic, dând prioritate calității + fiabilității în detrimentul angajamentului. Am muncit din greu pentru a înțelege impactul, pentru a obține conducerea la bord - da, și Mark - și este o schimbare importantă. ”

Aceasta ar putea fi o cale de urmat, folosind diferite semnale de clasare pentru diferite tipuri de conținut, care ar putea funcționa pentru a permite amplificarea optimă a conținutului, stimulând implicarea benefică a utilizatorilor, diminuând totodată motivația anumitor actori de a posta materiale divizoare pentru a alimenta algoritmii. a ajunge.

Ar merge asta? Din nou, este greu de spus, deoarece oamenii ar putea în continuare să partajeze postări, ar putea în continuare să comenteze și să redistribuie material online, există încă multe moduri prin care amplificarea se poate întâmpla în afara algoritmului în sine.

În esență, ambele sugestii au avantaje, că platformele sociale ar putea trata diferite tipuri de conținut în mod diferit sau că algoritmii ar putea fi eliminați pentru a reduce amplificarea unui astfel de material.

Și după cum notează Haugen, concentrarea asupra sistemelor în sine este importantă, deoarece soluțiile bazate pe conținut deschid diverse complexități atunci când materialul este postat în alte limbi și regiuni.

„În cazul Etiopiei, există 100 de milioane de oameni și șase limbi. Facebook acceptă doar două dintre aceste limbi pentru sistemele de integritate. Această strategie de concentrare pe sisteme specifice limbii, specifice conținutului, pentru ca AI să ne salveze, este sortită eșecului.”

Poate, atunci, eliminarea algoritmilor, sau cel puțin modificarea reglementărilor privind modul în care funcționează algoritmii, ar fi o soluție optimă, care ar putea ajuta la reducerea impactului conținutului negativ, care provoacă furie în sfera rețelelor sociale.

Dar apoi ne întoarcem la problema inițială pe care algoritmul Facebook a fost conceput pentru a o rezolva – încă din 2015, Facebook a explicat că are nevoie de algoritmul News Feed nu numai pentru a maximiza implicarea utilizatorilor, ci și pentru a se asigura că oamenii au văzut toate actualizările celor mai multe relevanță pentru ei.

După cum se explica, utilizatorul mediu de Facebook, la acel moment, avea aproximativ 1.500 de postări eligibile pentru a apărea în fluxul de știri în orice zi, pe baza Paginilor pe care le-au apreciat și a conexiunilor personale - în timp ce pentru unii utilizatori mai activi , acel număr era mai degrabă de 15.000. Pur și simplu nu este posibil ca oamenii să citească fiecare dintre aceste actualizări în fiecare zi, așa că obiectivul cheie al Facebook cu algoritmul inițial a fost să creeze un sistem care să descopere cel mai bun și mai relevant conținut pentru fiecare individ, pentru a oferi utilizatorilor cele mai multe experiență captivantă și, ulterior, îi faceți să revină.

După cum a explicat pentru Time Magazine directorul de produse al Facebook, Chris Cox:

„Dacă ai putea evalua tot ce s-a întâmplat astăzi pe Pământ, care a fost publicat oriunde de către oricare dintre prietenii tăi, oricare dintre membrii familiei tale, orice sursă de știri și apoi să alegi pe cele 10 care au fost cele mai semnificative de știut astăzi, ar fi foarte cool. serviciu pe care trebuie să-l construim. Acesta este cu adevărat ceea ce aspirăm să devină News Feed.”

Abordarea News Feed a evoluat mult de atunci, dar provocarea fundamentală pe care a fost concepută să o rezolve rămâne. Oamenii au prea multe conexiuni, urmăresc prea multe Pagini, sunt membri ai prea multe grupuri pentru a primi toate actualizările, în fiecare zi. Fără algoritmul de feed, aceștia vor pierde postări relevante, actualizări relevante, cum ar fi anunțuri de familie și zile de naștere, și pur și simplu nu vor fi la fel de implicați în experiența Facebook.

Fără algoritm, Facebook va pierde, fără a reuși să optimizeze pentru dorințele publicului – și așa cum se subliniază într-un alt raport distribuit ca parte a Fișierelor Facebook, de fapt înregistrează deja scăderi de implicare în unele subseturi demografice.

Vă puteți imagina că dacă Facebook ar elimina algoritmul sau ar fi forțat să-și schimbe direcția în acest sens, acest grafic se va înrăutăți în timp.

Prin urmare, este puțin probabil ca Zuck și Co. să fie dornici de această soluție, așa că un compromis, precum cel propus de Gillis, poate fi cel mai bun la care se poate aștepta. Dar asta vine cu propriile defecte și riscuri.

În orice caz, merită remarcat faptul că accentul dezbaterii trebuie să se îndrepte către algoritmi mai larg, nu doar pe Facebook, și dacă există de fapt o modalitate viabilă și viabilă de a schimba stimulentele în jurul sistemelor bazate pe algoritmi pentru a limita distribuția. a elementelor mai dezbinătoare.

Pentru că aceasta este o problemă, indiferent de modul în care Facebook sau oricine altcineva încearcă să o rotească, motiv pentru care poziția lui Haugen este importantă, deoarece poate fi scânteia care ne conduce la o dezbatere nouă, mai nuanțată în jurul acestui element cheie.