효과적인 규제가 소셜 네트워크에 대한 분열적인 콘텐츠의 영향을 줄일 수 있습니까?

Facebook 파일로 촉발된 새로운 논쟁의 폭풍 속에서, 어떤 면에서는 Facebook이 사용자를 피해로부터 보호하기에 충분하지 않음을 시사하는 다양한 내부 연구 프로젝트가 폭로되는 가운데, 해결해야 할 핵심 질문은 종종 다음과 같습니다. 소셜 미디어와 반대되는 회사인 Facebook의 고유한 편견과 특정 타겟팅, 개념으로서의 알고리즘적 콘텐츠 증폭으로 인해 왜곡됩니다.

즉, 수정하려면 어떻게 해야 합니까? 실제로 할 수 있는 일은 실제로 차이를 만들 것입니다. 소셜 미디어 앱의 영향력이 커짐에 따라 사회 내에서 더 많은 불안을 조장하는 유해하고 분열적인 게시물의 증폭을 줄이기 위해 규제 또는 정책의 어떤 변경을 실행 가능하게 구현할 수 있습니까?

모든 소셜 플랫폼은 알고리즘을 사용하여 콘텐츠 배포 및 도달 범위를 정의하기 때문에 여기에서 소셜 미디어를 더 광범위하게 고려하는 것이 중요합니다. Facebook은 단연 가장 크고 뉴스 콘텐츠와 같은 핵심 요소에 더 많은 영향을 미칩니다. 물론 이 경우 연구 통찰력 자체는 Facebook에서 가져왔습니다.

특히 Facebook에 초점을 맞추는 것은 의미가 있지만 Twitter는 더 많은 참여를 유도하는 콘텐츠를 증폭하기도 합니다. LinkedIn은 가장 매력적이라고 ​​판단한 항목을 기준으로 피드를 분류합니다. TikTok의 알고리즘은 귀하의 관심사에 매우 적합합니다.

Facebook 내부 고발자 Frances Haugen이 강조한 것처럼 문제는 Facebook 자체가 아니라 알고리즘 배포입니다. 그렇다면 해당 요소를 현실적으로 개선할 수 있는 아이디어는 무엇입니까?

그리고 추가 질문은 소셜 플랫폼이 특히 참여 및 사용자 활동 수준에 위험을 초래하는 경우 그러한 변경을 기꺼이 수행할 것인지입니다.

알고리즘 콘텐츠 매칭 전문가인 Haugen은 현재 사용자가 앱에서 공유하는 것에 대한 법적 책임으로부터 소셜 미디어 회사를 보호하는 230조 법률의 개혁을 통해 소셜 네트워크가 참여 기반 알고리즘 사용을 전면 중단해야 한다고 제안했습니다. .

Haugen의 설명:

"적절한 감독이 있었거나 의도적인 순위 결정의 결과에 대해 Facebook이 책임을 지도록 [섹션] 230을 개혁했다면 참여 기반 순위를 없앨 것이라고 생각합니다."

여기서 개념은 Facebook, 나아가 모든 소셜 플랫폼이 특정 콘텐츠를 증폭시키는 방식에 대해 책임을 진다는 것입니다. 따라서 알고리즘 개입으로 인해 더 많은 사람들이 예를 들어 COVID 잘못된 정보를 보게 되면 Facebook은 모든 영향에 대해 법적 책임을 질 수 있습니다.

그것은 그러한 알고리즘의 구성과 관련된 의사 결정에 상당한 위험을 추가할 것이며, Haugen이 지적한 바와 같이, 플랫폼은 사용자가 그러한 콘텐츠와 상호 작용하는 방식에 따라 게시물의 도달 범위를 높이는 조치에서 한 걸음 물러나야 할 수 있습니다. .

기본적으로 소셜 플랫폼은 알고리즘 이전 시대로 돌아가야 할 것입니다. 이 시대에는 Facebook 및 기타 앱이 게시 시간을 기준으로 팔로우하는 페이지와 사람들의 콘텐츠 목록을 시간순으로 보여주기만 하면 됩니다. 그러면 사람들과 브랜드가 알고리즘의 변덕에 참여하기 위해 더 논쟁의 여지가 있고 참여를 유도하는 콘텐츠를 공유하려는 동기가 줄어들 것입니다.

이 아이디어는 몇 가지 장점이 있습니다. 다양한 연구에서 알 수 있듯이 소셜 게시물로 감정적 반응을 촉발시키는 것은 참여를 극대화하는 열쇠이며, 따라서 알고리즘 증폭을 기반으로 하는 도달 범위입니다. 이 점에서 가장 효과적인 감정은 유머와 분노입니다. 농담과 재미있는 비디오는 알고리즘 도달 범위에 힘입어 모든 플랫폼에서 여전히 잘 작동하지만, 당파적 뉴스 매체와 유명인이 사용하는 분노를 유발하는 핫 테이크도 마찬가지입니다. 온라인 참조.

분명히 말씀드리지만, Facebook은 이에 대해 단독으로 책임을 질 수 없습니다. 당파 출판사와 논란이 많은 인물은 오랫동안 광범위한 담론에서 역할을 해왔으며 Facebook이 등장하기 훨씬 전부터 중도좌파 의견에 관심과 참여를 불러일으켰습니다. 이제 차이점은 소셜 네트워크가 이러한 광범위한 도달 범위를 촉진하는 동시에 좋아요 및 기타 형태의 참여를 통해 개별 사용자가 응답을 트리거하여 도파민 타격을 받고 게시자가 더 많은 추천 트래픽을 유도하고 도발을 통해 더 많은 노출.

실제로, 전자의 결과를 고려할 때 중요한 문제는 이제 모든 사람이 자신의 목소리를 낼 수 있고, 모두가 자신의 생각과 의견을 공유할 수 있는 플랫폼이 있을 때 우리 모두가 그러한 것에 훨씬 더 많이 노출되고 훨씬 더 잘 알고 있다는 것입니다. 과거에는 삼촌의 정치적 설득에 대해 전혀 몰랐을 것입니다. 하지만 이제는 소셜 미디어가 매일 알려 주기 때문에 이러한 유형의 동료 공유도 더 큰 분열에 한몫을 하고 있습니다.

그러나 Haugen의 주장은 Facebook이 이를 장려한다는 것입니다. 예를 들어 Haugen이 Wall Street Journal에 유출한 보고서 중 하나는 Facebook이 2018년에 뉴스피드 알고리즘을 업데이트하여 사용자 간의 참여를 더 강조하고 정치적 토론을 줄이는 방법을 설명합니다. 앱에서 점점 더 분열적인 요소가 되었습니다. Facebook은 게시물 참여 유형에 따라 가중치를 변경하여 이를 수행했습니다.

아이디어는 이것이 답장에 더 많은 가중치를 주어 더 많은 토론을 유도한다는 것이었습니다. 그러나 상상할 수 있듯이 더 많은 도달범위를 유도하기 위해 댓글에 더 많은 가치를 부여함으로써 더 많은 게시자와 페이지가 점점 더 분열적이고 감정적으로 공유하게 되었습니다. 더 많은 반응을 불러일으키고 결과적으로 더 높은 공유 점수를 얻기 위해 청구된 게시물. 이 업데이트로 좋아요는 더 이상 도달 범위의 핵심 동인이 아니었습니다. Facebook은 댓글과 반응('Angry' 포함)이 점점 더 중요해졌습니다. 따라서 정치적 경향에 대한 토론을 촉발하는 것이 실제로 더 두드러지게 되었고 더 많은 사용자가 피드에서 이러한 콘텐츠에 노출되었습니다.

이 내부 데이터를 기반으로 한 제안은 Facebook이 이를 알고 있었고 이 변경으로 인해 분열적인 콘텐츠가 증가했다는 것을 알고 있다는 것입니다. 그러나 비즈니스 성공의 핵심 척도인 참여가 실제로 증가했기 때문에 되돌리거나 다른 업데이트를 구현하지 않기로 결정했습니다.

이런 의미에서 알고리즘 동기를 제거하는 것이 합리적일 수 있습니다. 또는 아마도 정치적 토론과 같은 특정 게시물 유형에 대한 알고리즘 인센티브를 제거하면서 친구의 더 매력적인 게시물의 도달 범위를 최대화하여 참여 목표와 분열을 모두 충족시킬 수 있습니다. 우려.

플랫폼의 제품 안전 팀에서 일하는 Facebook의 Dave Gillis가 폭로에 대한 응답으로 트윗 스레드에서 지적한 내용입니다.

Gillis에 따르면:

" 알고리즘 피드 순위에 대한 WSJ 기사의 끝에서 뉴스피드의 시민 및 건강 콘텐츠에 대한 참여 기반 순위에서 전환했다고 거의 전달되었습니다. 하지만 잠시만요. 그건 좀 큰일이잖아요, 그렇죠? 예를 들어 고양이 동영상과 아기 사진에 좋아요 등으로 순위를 매기는 것이 합리적일 수 있지만 다른 종류의 콘텐츠는 더 신중하게 처리해야 합니다. 실제로 우리 팀이 주장한 바는 건강 및 시민 콘텐츠에 대해 서로 다른 순위 신호를 사용하고 참여보다 품질과 신뢰성을 우선시하는 것입니다. 우리는 그 영향을 이해하고 리더십을 확보하기 위해 열심히 일했습니다. 물론 Mark도 마찬가지입니다. 이는 중요한 변화입니다. "

이것은 다양한 유형의 콘텐츠에 대해 서로 다른 순위 신호를 사용하여 앞으로 나아갈 수 있습니다. 이는 콘텐츠의 최적 증폭을 가능하게 하고 유익한 사용자 참여를 높이는 동시에 특정 행위자가 알고리즘에 피드하기 위해 분열적인 자료를 게시하려는 동기를 줄입니다. 도달하다.

그게 효과가 있을까요? 다시 말하지만 사람들은 여전히 ​​게시물을 공유할 수 있고 여전히 댓글을 달고 자료를 온라인으로 재배포할 수 있기 때문에 알고리즘 자체 외부에서 증폭이 발생할 수 있는 많은 방법이 있습니다.

본질적으로 소셜 플랫폼이 다른 유형의 콘텐츠를 다르게 취급할 수 있거나 그러한 자료의 증폭을 줄이기 위해 알고리즘을 제거할 수 있다는 두 가지 제안 모두 장점이 있습니다.

그리고 Haugen이 지적했듯이 콘텐츠 기반 솔루션은 자료가 다른 언어 및 지역으로 게시될 때 다양한 복잡성을 야기하기 때문에 시스템 자체에 초점을 맞추는 것이 중요합니다.

“에티오피아의 경우 1억 인구와 6개 언어가 있습니다. Facebook은 무결성 시스템에 대해 이러한 언어 중 2개만 지원합니다. AI가 우리를 구하기 위해 언어별, 콘텐츠별 시스템에 초점을 맞추는 이 전략은 실패할 수밖에 없습니다.”

그렇다면 알고리즘을 제거하거나 최소한 알고리즘 작동 방식에 대한 규정을 변경하는 것이 최적의 솔루션이 될 수 있으며, 이는 소셜 미디어 영역에서 분노를 유발하는 부정적 콘텐츠의 영향을 줄이는 데 도움이 될 수 있습니다.

그러나 우리는 Facebook의 알고리즘이 해결하도록 설계된 원래 문제로 돌아갑니다. 2015년에 Facebook은 사용자 참여를 극대화할 뿐만 아니라 사람들이 대부분의 업데이트를 볼 수 있도록 하기 위해 뉴스피드 알고리즘이 필요하다고 설명했습니다. 그들과의 관련성.

설명 에 따르면 당시 평균적인 Facebook 사용자는 좋아했던 페이지와 개인적인 인맥을 기반으로 특정 날짜에 뉴스피드에 약 1,500개의 게시물을 표시할 수 있었습니다. 반면 일부 활동적인 사용자의 경우 , 그 숫자는 15,000 이상이었습니다. 사람들이 이러한 업데이트를 매일 하나씩 읽는 것은 불가능하기 때문에 초기 알고리즘에서 Facebook의 주요 초점은 사용자에게 가장 많은 정보를 제공하기 위해 각 개인에게 가장 관련성이 높은 콘텐츠를 찾아내는 시스템을 만드는 것이었습니다. 매력적인 경험을 제공하고 계속해서 다시 방문하도록 합니다.

Facebook의 최고 제품 책임자인 Chris Cox는 Time Magazine에 다음과 같이 설명했습니다.

"당신의 친구, 가족, 뉴스 매체가 어디에서나 게시한 오늘 지구에서 일어난 모든 일을 평가하고 오늘 알게 된 가장 의미 있는 10가지를 고를 수 있다면 그것은 정말 멋진 일이 될 것입니다. 그것이 바로 우리가 뉴스피드가 되기를 열망하는 것입니다."

그 이후로 뉴스피드 접근 방식은 많이 발전했지만 해결하기 위해 설계된 근본적인 문제는 여전히 남아 있습니다. 사람들은 너무 많은 인맥을 갖고 있고, 너무 많은 페이지를 팔로우하고, 매일 업데이트를 모두 받기에는 너무 많은 그룹의 회원입니다. 피드 알고리즘이 없으면 관련 게시물, 가족 발표 및 생일과 같은 관련 업데이트를 놓치고 Facebook 경험에 참여하지 못할 것입니다.

알고리즘이 없으면 Facebook은 청중의 욕구에 맞게 최적화하지 못하여 패할 것입니다. Facebook 파일의 일부로 공유된 다른 보고서에서 강조된 것처럼 실제로 일부 인구 통계학적 하위 집합에서 참여도가 감소하고 있습니다.

Facebook이 알고리즘을 제거하거나 이에 대한 방향을 강제로 변경하면 이 그래프가 시간이 지남에 따라 악화될 것이라고 상상할 수 있습니다.

따라서 Zuck과 Co.는 그 솔루션에 열광하지 않을 것이므로 Gillis가 제안한 것과 같은 타협이 예상할 수 있는 최선일 수 있습니다. 하지만 그 자체로 결점과 위험이 따릅니다.

어느 쪽이든, 토론의 초점이 Facebook만이 아니라 알고리즘으로 더 광범위하게 전환되어야 하며, 배포를 제한하기 위해 알고리즘 기반 시스템 주변의 인센티브를 실제로 변경하는 실행 가능하고 실행 가능한 방법이 있는지 여부는 주목할 가치가 있습니다. 더 분열적인 요소.

그것이 문제이기 때문에 Facebook이나 다른 사람이 그것을 어떻게 돌리려고 하든 Haugen의 입장이 중요한 이유는 이 핵심 요소에 대해 우리를 새롭고 더 미묘한 토론으로 이끄는 불꽃일 수 있기 때문입니다.