Giganci techniki zarejestrują się w 'Christchurch Call', aby zająć się rozpowszechnianiem ekstremistycznych treści

Ataki terrorystyczne w Christchurch, w których zginęło 51 osób, a 50 zostało rannych, uwidoczniły nowy niepokój w kręgach mediów cyfrowych - że platformy cyfrowe, a zwłaszcza sieci społecznościowe, napędzają główne podziały społeczne i ruchy podziemne, co może prowadzić do tragicznych konsekwencji .

W przeszłości wiele uwagi poświęcano ekstremistycznym treściom, które koncentrowały się na radykalizacji postaw ugruntowanych ugrupowań terrorystycznych, ale ataki w Christchurch podkreśliły, jak ważne jest również zwrócenie uwagi na wzrost lokalnej mowy nienawiści, która może całkowicie prowadzić do innej formy radykalizacji. Tę zmianę można przynajmniej częściowo przypisać mediom społecznościowym i algorytmom udostępniania, które pokazują użytkownikom więcej tego, co im się podoba - iz czym prawdopodobnie się zgodzą - a mniej tego, czego nie chcą, co prowadzi do bardziej wypaczonego, niezrównoważona perspektywa.

Dodajmy do tego fakt, że napastnik z Christchurch transmitował na żywo swoje działania na Facebooku, a związek między mediami społecznościowymi a takimi ruchami jest coraz wyraźniejszy.

Co więc można zrobić, aby rozwiązać ten problem?

W tym tygodniu przedstawiciele F acebook, Twittera, Microsoft, Google i Amazon wzięli udział w spotkaniu w Paryżu, aby omówić kolejne kroki, jakie mogą podjąć, aby ograniczyć rozprzestrzenianie się terroryzmu i ekstremizmu w Internecie. Wynikiem spotkania, którego gospodarzem był prezydent Francji Emmanuel Macron i premier Nowej Zelandii Jacinda Ardern, jest „The Christchurch Call”, dziewięciopunktowa strategia, która „określa konkretne kroki, jakie branża podejmie w celu rozwiązania problemu nadużyć technologii do rozpowszechniania treści o charakterze terrorystycznym ”.

Zgodnie z oficjalną stroną internetową:

„Wezwanie z Christchurch to zobowiązanie rządów i firm technologicznych do wyeliminowania treści terrorystycznych i brutalnych ekstremistów w internecie. Opiera się na przekonaniu, że wolny, otwarty i bezpieczny internet oferuje społeczeństwu niezwykłe korzyści. Poszanowanie wolności słowa ma jednak fundamentalne znaczenie. nikt nie ma prawa do tworzenia i udostępniania w internecie treści o charakterze terrorystycznym i brutalnym ekstremistycznym ”.

Elementy wezwania Christchurch, na które zgodzili się wszyscy obecni, są następujące:

• Zaktualizowane warunki użytkowania - każdy z gigantów technologicznych zaktualizuje swoje warunki użytkowania o „ wyraźny zakaz rozpowszechniania treści terrorystycznych i brutalnych ekstremistów”. Widzieliśmy już pierwsze kroki w tym zakresie od Facebooka, który niedawno zakazał kilku znanych komentatorów politycznych w ramach swojej polityki dotyczącej mowy nienawiści, i możesz spodziewać się więcej w tym zakresie, ponieważ inne platformy wdrażają surowsze zasady dotyczące treści, które podżegają do nienawiści.
• Ulepszone procesy zgłaszania ekstremistycznych treści - sygnatariusze zobowiązali się do ustanowienia nowych metod na swoich platformach i usługach, aby użytkownicy mogli zgłaszać lub oznaczać nieodpowiednie treści. Firmy będą również starały się zapewnić, aby mechanizmy raportowania były jasne i łatwe w użyciu, a także zapewniały wystarczająco szczegółowe informacje, aby pomóc ich zespołom w ustalaniu priorytetów i szybkim reagowaniu na istotne problemy.
• Ulepszona technologia - sygnatariusze zobowiązali się do dalszego inwestowania w zaawansowaną technologię wykrywania i usuwania ekstremistycznych treści, co obejmuje ciągły rozwój narzędzi do rozpoznawania wizualnego. Facebook przeznaczył dodatkowe 7,5 miliona dolarów na takie badania na początku tego tygodnia.
• Dedykowane skupienie się na zagrożeniach związanych z transmisją strumieniową na żywo - jak zauważono, napastnik z Christchurch wykorzystał Facebook Live do transmisji swoich działań w Internecie, podkreślając poważne obawy dotyczące w szczególności możliwości przesyłania strumieniowego na żywo. Sygnatariusze zobowiązali się do wdrożenia „ulepszonych środków weryfikacji (takich jak oceny lub wyniki streamerów, aktywność na koncie lub procesy walidacji) oraz moderowania niektórych wydarzeń transmitowanych na żywo, jeśli to konieczne”. Biorąc pod uwagę charakter treści na żywo, jest to trudny obszar dla policji i konieczne będzie podjęcie dalszych działań w celu rozwiązania potencjalnych problemów.
• Raporty przejrzystości - sygnatariusze zobowiązali się również do regularnego publikowania aktualizacji dotyczących wykrywania i usuwania treści terrorystycznych lub brutalnych ekstremistów na ich platformach i usługach

Oprócz tych środków specyficznych dla platformy, następujące cztery punkty będą miały szersze zastosowanie w przedsiębiorstwach.

• Wspólny rozwój technologii - sygnatariusze zobowiązali się do współpracy w przemyśle, rządzie, instytucjach edukacyjnych i organizacjach pozarządowych „w celu wypracowania wspólnego zrozumienia kontekstów, w których publikowane są treści terrorystyczne i brutalne ekstremistyczne oraz do ulepszenia technologii wykrywania i usuwania terrorystów i aktów przemocy treści ekstremistyczne skuteczniej i wydajniej ”. Dzięki współpracy firmy będą mogły jeszcze szybciej ulepszyć swoje narzędzia i procesy, zwiększając środki bezpieczeństwa.
• Protokoły kryzysowe - sygnatariusze będą również współpracować nad stworzeniem protokołu reagowania na pojawiające się lub aktywne wydarzenia w trybie pilnym, aby zapewnić szybką wymianę istotnych informacji i podjęcie odpowiednich działań przez wszystkie zainteresowane strony z minimalnym opóźnieniem.
• Edukacja - sygnatariusze będą również współpracować z przemysłem, rządem, instytucjami edukacyjnymi i organizacjami pozarządowymi, „aby pomóc zrozumieć i edukować opinię publiczną o treściach online zawierających przemoc terrorystów i ekstremistów”. Proces będzie obejmował edukowanie i przypominanie użytkownikom o tym, jak zgłaszać lub w inny sposób nie przyczyniać się do rozpowszechniania treści ekstremistycznych.
• Zwalczanie nienawiści i bigoterii - Wreszcie, sygnatariusze zobowiązali się do współpracy w celu zapewnienia większego wsparcia dla odpowiednich badań w celu wykrycia i zajęcia się podstawowymi przyczynami ekstremizmu i nienawiści. Jest to oczywiście znacznie większy cel, ale przy połączonych zasobach gigantów technologicznych możliwy jest znaczny postęp, który może być ogromnym krokiem.

Nie ma wątpliwości, że w ostatnim czasie nastąpił wzrost nienawiści w Internecie i spadek dyskursu obywatelskiego - co, jak zauważono, należy przynajmniej częściowo przypisać algorytmom udostępniania używanym przez platformy społecznościowe w celu zwiększenia zaangażowania, co również ułatwia filtrowanie pęcherzyki, co prowadzi do coraz bardziej wypaczonych perspektyw. To element, którym należy się najpilniej zająć - w jaki sposób platformy społecznościowe zmieniają swoje systemy udostępniania, aby zmniejszyć koncentrację na treściach, co pobudza podział?

Na przykład Facebook nagradza posty, które widzą większe zaangażowanie (tj. Komentarze, udostępnienia, reakcje) zwiększonym zasięgiem, zwiększając ich dystrybucję i ekspozycję wśród 2,38 miliarda użytkowników platformy.

Który post zainspiruje więcej komentarzy - artykuł z nagłówkiem „Eksperci zgadzają się, że konieczne jest pilne działanie w sprawie zmian klimatu” lub „Zmiany klimatyczne to mit mający na celu zarabianie pieniędzy dla globalnych korporacji”?

Sam algorytm Facebooka zachęca do sensacji - wydawcy, którzy grają w grę Facebooka, wygrywają, publikując bardziej podzielające, skrajne punkty widzenia. Dodaj do tego fakt, że po pokazaniu, jakie treści Cię interesują, Facebook pokaże Ci więcej tego samego, aby Cię zaangażować, i jasne jest, że algorytm Facebooka jest przynajmniej częściowo odpowiedzialny za takie podziały , a kolejne algorytmy zaimplementowane na innych platformach mają bardzo podobny proces.

Jest to kluczowy element, którym należy się zająć, o czym nie ma w szczególności wzmianki w wezwaniu Christchurch. Fakt, że firmy zobowiązały się do podjęcia działań, jest pozytywnym krokiem, ale to właśnie systemy, które sprawiły, że platformy społecznościowe są coraz bardziej angażujące, są również częścią przyczyny tych powiązanych obaw.