Jak śledzić sieci dezinformacji: nowy poradnik opisuje metodę czterech kroków, gdy przybywa spraw o zamieszki

Poradnik opublikował projekt Exposing the Invisible. Dezinformację opisuje w nim jako coraz częściej zorganizowaną w „infrastruktury sieciowe”, budowane po to, by w skoordynowany sposób manipulować i oszukiwać. Autorzy prowadzą czytelników przez czterokrokową metodologię odkrywania, mapowania i śledzenia takich sieci w różnych językach i kontekstach.

Główny argument to rozróżnienie między fact-checkingiem a badaniem sieci. Fact-checking weryfikuje pojedynczy element: zdjęcie, wideo, materiał informacyjny. Śledzenie sieci patrzy na to, co ten element otacza: strony, konta, ścieżkę wzmacniania przekazu. Poradnik nazywa to przejściem od tekstu do kontekstu. Przyznaje, że takie podejście jest bardziej czasochłonne, ale lepiej pozwala zidentyfikować aktorów poza osobą, która napisała jeden wpis.

Cztery kroki i dlaczego się powtarzają

Poradnik przedstawia cztery kroki po kolei, dla łatwiejszej lektury, a potem ostrzega, że prawdziwe dochodzenia są rekursywne. „Wiele kroków będzie rekursywnych, dlatego konieczne będzie przechodzenie od jednego kroku do następnego w sposób niesekwencyjny” – stwierdza. Każdy krok zawiera trzy podsekcje, oznaczone w poradniku paskami w różnych kolorach.

Autorzy wskazują też problem terminologiczny, który myli przypadkowych czytelników. Nie każdy wciągnięty w kampanię dezinformacyjną wie, że jest jej częścią. Tam, gdzie uczestnicy nie są tego świadomi, poradnik mówi, że eksperci używają terminu misinformation, a nie disinformation. Pomylenie tego rozróżnienia publicznie może naznaczyć zwykłych użytkowników jako agentów.

Poradnik opiera się na definicji z Media Manipulation Casebook w Shorenstein Center on Media, Politics and Public Policy. Opisuje ona manipulację mediami jako proces, w którym aktorzy wykorzystują „konkretne warunki lub cechy ekosystemu informacyjnego”, by generować uwagę i wpływać na dyskurs publiczny za pomocą zwodniczych, kreatywnych lub nieuczciwych środków. Poradnik zauważa, że Unia Europejska wprowadziła skrót FIMI, oznaczający zagraniczne manipulacje informacyjne i ingerencje, i opisuje go jako strategiczny, skoordynowany i zamierzony.

Macedońscy nastolatkowie, włoskie strony, wiadomości generowane przez AI

Nie każda sieć ma politycznego sponsora. Poradnik wskazuje motywy ekonomiczne, w tym monetyzację przez reklamę, i przywołuje sieć stron prowadzonych podczas wyborów w USA w 2016 roku przez grupę nastolatków z małego miasteczka w Macedonii. Odnosi się też do sprawy, nad którą autor pracował we Włoszech. Doprowadziła ona do odkrycia sieci stron w bardzo małym miasteczku na południu Włoch.

Inne wymienione przykłady to materiał Buzzfeed News o tym, jak jedna z największych włoskich alternatywnych sieci medialnych szerzyła na Facebooku dezinformację antyimigrancką, oraz praca Poynter Institute nad stroną podszywającą się pod redakcję fact-checkingową, by publikować fałszywe wiadomości w Brazylii. W części o generatywnej AI poradnik przywołuje sieć 125 niewiarygodnych stron informacyjnych generowanych przez AI, ujawnioną przez NewsGuard. Wspomina też o rosyjskich „fabrykach trolli” i o tym, co nazywa dobrze znanymi sieciami dezinformacji prochińskimi lub proindyjskimi.

Poradnik cytuje Whitney Phillips i Ryana M. Milnera z książki „You Are Here: A Field Guide for Navigating Polarized Speech, Conspiracy Theories, and Our Polluted Media Landscape”. Piszą oni, że „zanieczyszczona informacja nigdy nie pojawia się ot tak”, a badacze powinni triangulować to, co znajdą. Cytowany fragment wskazuje trzy możliwe korzenie takiego zanieczyszczenia: ekonomiczny, interpersonalny i ideologiczny.

„Pierwszym zadaniem jest triangulacja naszych własnych naklejek »tu jestem« na mapie sieci (…) Spojrzenie w dół, na korzenie pod naszymi stopami, pomaga prześledzić, skąd przyszła zanieczyszczona informacja i jak tam trafiła.”

Dlaczego widok sieci ma znaczenie

Praktyczny sens analizy na poziomie sieci widać po konkretnych zdarzeniach. W lipcu 2024 roku w brytyjskim mieście Southport zginęły trzy młode dziewczynki. Fałszywe twierdzenia o imieniu, religii i statusie migracyjnym napastnika rozeszły się w ciągu godzin, podaje CNBC. Hannah Rose, analityczka ds. nienawiści i ekstremizmu w Institute for Strategic Dialogue, powiedziała CNBC, że wpis na X fałszywie nazwał sprawcę „Ali al-Shakati”, a do godziny 15:00 następnego dnia fałszywe nazwisko miało ponad 30 000 wzmianek tylko na X.

Policja zdementowała te twierdzenia dzień po tym, jak się pojawiły, podając, że podejrzany urodził się w Wielkiej Brytanii. CNBC podało jednak, że narracja zdążyła już zyskać popularność. Skrajnie prawicowe grupy zorganizowały antyimigranckie i antyislamskie protesty, które przerodziły się w kilkudniowe zamieszki z atakami na meczety, ośrodki dla imigrantów i hotele, w których mieszkają osoby ubiegające się o azyl. Rose powiedziała, że gdy użytkownicy wpisywali „Southport” na TikToku, fałszywe nazwisko napastnika było promowane przez samą platformę w sekcji „Inni szukali”, także osiem godzin po tym, jak policja potwierdziła, że jest nieprawdziwe.

Joe Ondrak, lider ds. badań i technologii w brytyjskim oddziale Logically, powiedział CNBC, że takie fałszywe twierdzenia służą racjonalizowaniu istniejących uprzedzeń i skłonności, zanim pojawią się ustalone fakty. Telegram zaprzeczył przed CNBC, że pomaga szerzyć dezinformację. Twierdzi, że jego moderatorzy monitorują sytuację i usuwają kanały oraz wpisy nawołujące do przemocy.

Inne udokumentowane operacje są większe i trwalsze. CNN przejrzało dokumenty sądowe i publiczne ujawnienia firm społecznościowych. Wykazało, że chiński rząd zbudował to, co opisano jako największą znaną operację dezinformacyjną online na świecie, i wykorzystuje ją do nękania mieszkańców USA, polityków i firm. CNN podało, że Meta oświadczyła, iż tylko w drugim kwartale 2023 roku usunęła grupę niemal 8 000 kont przypisanych tej strukturze. Google powiedział CNN, że w ostatnich latach zamknął ponad 100 000 powiązanych kont, a X zablokował setki tysięcy kont wspieranych lub powiązanych z chińskim państwem.

Departament Stanu USA powiedział CNN, że te taktyki są częścią szerszego, wielomiliardowego wysiłku kształtowania światowego środowiska informacyjnego i uciszania krytyków Pekinu. Sieć jest znana jako „Spamouflage” lub „Dragonbridge”.

Regionalne fale przebiegają według tego samego wzorca. Balkan Insight podał, że w październiku 2023 roku, podczas konfliktu Izraela z Hamasem, fałszywe twierdzenia rozeszły się po Bałkanach. Wśród nich było bezpodstawne oświadczenie, że Izrael celowo zbombardował prawosławny kościół św. Porfiriusza w Gazie, później zdementowane przez fact-checkerów, w tym AP i AFP. W Kosowie 20 października krążył zmanipulowany obraz sugerujący, że kibice Atletico Madryt wywiesili palestyńską flagę. Bliższe przyjrzenie się wykazało, że został cyfrowo sfałszowany przy użyciu technologii AI, podaje Balkan Insight.

Ostatni przypadek w poradniku jest prostszy. Badanie naukowców zajmujących się edukacją z UC Riverside i USC, opublikowane w czasopiśmie New Media & Society, wykazało, że czarnoskórzy i latynoscy nastolatkowie zgłaszali znacznie więcej umiejętności cyfrowych, takich jak wykrywanie dezinformacji online, niż ich biali rówieśnicy, szczególnie w przypadku treści dotyczących rasy i pochodzenia etnicznego. Avriel Epps, adiunktka w School of Education na UC Riverside i główna autorka, powiedziała, że umiejętności te w wielu przypadkach rozwinęły się z doświadczenia radzenia sobie z rasizmem w sieci, a nie z nauki szkolnej.

Ten wynik stoi w sprzeczności z badaniem z 2021 roku przeprowadzonym przez Stanford History Education Group, obecnie Digital Inquiry Group, w którym czarnoskórzy uczniowie wypadli znacznie słabiej niż inne grupy rasowo-etniczne w analizie rzeczywistych mediów cyfrowych. Badanie UCR zauważa, że wcześniejsze prace nie badały reakcji związanych z rasą ani rasizmem.