최신 Facebook 유출에서 식별된 문제에 대한 답을 찾는 것은 복잡한 과정이 될 것입니다

그렇다면 최근 공개된 Facebook 내부 문서 및 연구에서 무엇을 배웠습니까?

글쎄, 많지는 않아. 전 페이스북 엔지니어인 Frances Haugen은 지난 달 소셜 네트워크에서 초기 내부 보고서 세트를 발표했는데, 이 보고서에는 백신 반대 콘텐츠 처리에 대한 어려움, 알고리즘 변경의 유해한 영향, Instagram의 부정적인 정신 건강 영향 등 다양한 우려 사항이 요약되어 있습니다. 십대에.

Haugen은 이번 주에 다양한 주요 간행물과의 협력을 통해 또 다른 보고서 클러스터를 발표했는데, 이 보고서는 이러한 초기 주장을 확장하고 다양한 측면에 대한 자세한 내용을 추가합니다. 그리고 이 모든 것이 흥미롭고 의심할 여지 없이 Facebook이 시스템에 대해 알고 있는 것과 그들이 분열과 불안을 뿌릴 수 있는 방법, 그리고 더 광범위한 사회적 영향을 조명합니다. 그러나 계시는 또한 우리가 이미 알고 있거나 의심했던 것을 크게 강조합니다. Facebook의 현지 언어 지원 부족으로 인해 일부 지역에서 피해가 증가하고 Facebook 네트워크가 인신매매를 포함한 범죄 활동에 사용되며 Facebook이 일부 의사 결정에서 안전보다 성장을 우선시했을 수 있습니다.

이 모든 것은 널리 알려져 있었지만 Facebook도 알고 있고 자체 연구에서도 이를 확인하고 있다는 사실은 중요하며 다양한 형태로 소셜 네트워크에 대해 완전히 새로운 범위의 조치를 취하게 될 것입니다.

그러나 수천 페이지에 달하는 내부 연구 통찰력 사이에 숨겨져 있는 우리가 알지 못했던 몇 가지 중요한 메모가 있습니다.

저널리스트 Alex Kantrowitz가 강조한 한 가지 핵심 요소는 특히 논란의 여지가 있는 News Feed 알고리즘과 Facebook이 다양한 실험을 통해 콘텐츠 증폭과 우려의 균형을 맞추기 위해 노력한 방법과 관련이 있습니다.

Haugen이 의회에서 Facebook 파일 유출에 대한 첫 연설에서 추진한 주요 솔루션은 소셜 네트워크가 참여 기반 알고리즘 사용을 전면 중단해야 한다는 것입니다. 소셜 플랫폼 참여를 위해 시스템으로 인한 피해를 줄입니다.

Haugen 의 설명:

"적절한 감독이 있었거나 의도적인 순위 결정의 결과에 대해 Facebook이 책임을 지도록 [섹션] 230을 개혁했다면 참여 기반 순위를 없앨 것이라고 생각합니다."

하지만 그게 효과가 있을까요?

Kantrowitz가 보고한 바와 같이 Facebook은 실제로 다음과 같은 실험을 수행했습니다.

“2018년 2월, Facebook 연구원은 Facebook 사용자의 0.05%에 대한 뉴스피드 순위 알고리즘을 완전히 차단했습니다. "순위가 매겨진 뉴스피드를 삭제하면 어떻게 됩니까?" 그들은 실험을 요약한 내부 보고서에서 물었다. 조사 결과: 뉴스피드 알고리즘이 없으면 Facebook 참여가 크게 떨어지고 사람들이 게시물을 50% 더 숨기고 Facebook 그룹의 콘텐츠가 맨 위로 올라가고 놀랍게도 Facebook은 사용자가 뉴스피드를 스크롤하여 더 많은 돈을 벌고 있습니다."

실험에 따르면 다양한 요인에 따라 콘텐츠의 순위를 지정하는 알고리즘이 없으면 사용자는 관련 게시물을 찾기 위해 스크롤하는 데 더 많은 시간을 소비하고 더 많은 광고에 노출되는 반면 더 많은 콘텐츠를 숨겼습니다. 시간순 피드는 미래에 동일한 항목이 더 많이 표시될 가능성을 줄이는 지속적인 이점이 없습니다. 사용자가 그룹에 더 많이 참여하기 때문에 그룹 콘텐츠가 증가했습니다(즉, 누군가가 회원님이 속한 그룹의 업데이트를 게시할 때마다 회원님의 피드에 해당 내용이 표시될 수 있음). 친구의 댓글과 좋아요가 훨씬 더 많습니다. 사용자 피드에 표시되는 페이지 게시물에

따라서 전반적으로 부정적이며 일부 사람들이 선전한 솔루션이 아닙니다. 물론 이것의 일부는 습관적인 행동에 기반하기도 합니다. 결국 사용자는 특정 페이지와 게시물을 많이 올리는 사람들을 팔로우하지 않고 관심이 없는 특정 그룹을 떠나게 될 것입니다. d 먹이를 제어하는 ​​새로운 방법을 배웁니다. 그러나 이는 Facebook 사용자의 손이 많이 가는 노력이며 이로 인해 Facebook 참여에 어려움을 겪을 것입니다.

Facebook이 이 옵션을 선택하는 것을 주저하는 이유를 알 수 있지만, 여기의 증거가 결과적으로 피드가 덜 분열적이라는 것을 반드시 가리키는 것은 아닙니다. 그리고 이것은 사기꾼과 Pages가 이 시스템을 게임하는 방법도 배울 것이라는 점을 고려하기 전입니다.

사람들을 플랫폼에 유지하기 위해 참여(즉, 논쟁)를 촉발하는 콘텐츠에 초점을 맞춤으로써 알고리즘이 가장 부정적인 영향을 미치는 것으로 종종 식별되는 Facebook의 영향에 대한 광범위한 토론의 핵심 요소에 대한 흥미로운 통찰력입니다. 더 오랜 시간 동안.

사실인가요? 내 말은, Facebook의 시스템이 사용자가 게시할 가능성이 있는 콘텐츠에 최적화되어 있다는 사실이 분명합니다. 반응을 촉발하는 가장 좋은 방법은 분노와 기쁨이 가장 강력한 동기부여가 되는 감정적 반응을 통한 것입니다. 그렇다면 페이스북의 알고리즘은 의도적이든 아니든 논쟁의 여지가 있는 게시물을 증폭시켜 분열을 부추길 가능성이 있는 것 같습니다. 그러나 대안은 훨씬 더 좋지 않을 수 있습니다.

그래서 앞으로 가장 좋은 방법은 무엇입니까?

그것이 지금 우리가 집중해야 할 핵심 요소입니다. 이러한 내부 통찰력은 Facebook이 알고 있는 것과 그 광범위한 영향에 대해 더 많은 정보를 제공하지만, 다음 단계가 무엇인지, 그리고 소셜 미디어 참여를 개선하기 위해 더 나은 보호 장치와 프로세스를 구현할 수 있는 방법도 고려하는 것이 중요합니다.

Facebook이 하려고 하는 것 – Facebook CEO Mark Zuckerberg가 초기 Facebook 파일 유출에 대해 언급했듯이.

“ 연구를 무시하고 싶다면 처음부터 이러한 중요한 문제를 이해하기 위해 업계 최고의 연구 프로그램을 만들 이유가 무엇입니까? 우리가 유해한 콘텐츠와 싸우는 데 관심이 없다면, 우리보다 더 큰 회사라도 우리 공간의 다른 어떤 회사보다 이 일에 전념하는 사람들을 더 많이 고용해야 합니까? "

Facebook은 분명히 이러한 요소를 조사하고 있습니다. 그런 다음 우려는 동기가 실제로 어디에 있는지와 함께 이 실험에 따라 문제를 해결하기 위해 수행할 수 있는 작업으로 귀결됩니다. Facebook을 완전히 제거하는 것은 불가능하기 때문에 이러한 통찰력을 사용하여 보다 안전하고 개방적이며 분열이 적은 공개 포럼을 구축할 수 있는 방법은 무엇입니까?

그것은 대답하기 훨씬 어려운 질문이며 Facebook이 나쁜 사람이라는 과장된 보도보다 더 깊이 반성하는 우려입니다.