Jak działają sieci dezinformacji, od zamieszek w Southport po firmy czarnego PR

29 lipca 2024 roku w Southport w północno-zachodniej Anglii zginęło troje dzieci na zajęciach tanecznych. W ciągu kilku godzin w mediach społecznościowych zaczęły krążyć fałszywe informacje o imieniu, religii i statusie migracyjnym sprawcy. Nazajutrz o godzinie 15 jedno fałszywe nazwisko miało ponad 30 000 wzmianek tylko na X. Podała je Hannah Rose z Institute for Strategic Dialogue, cytowana przez CNBC.

To anatomia współczesnej sieci dezinformacji: prawdziwe zdarzenie, szybka i fałszywa narracja, wzmocnienie przez algorytmy i skutki poza internetem. Policja zdementowała te twierdzenia dzień po ich pojawieniu się i podała, że podejrzany urodził się w Wielkiej Brytanii. Narracja zdążyła już jednak nabrać rozpędu.

Czym właściwie jest sieć dezinformacji

To pojęcie obejmuje wiele zjawisk. Na jednym końcu są luźno powiązane konta, które podłączają się pod gorący temat. Na drugim komercyjne operacje, które sprzedają manipulację jako usługę, często nazywane czarnym PR.

BuzzFeed News przejrzał usunięcia dokonane przez platformy i śledztwa firm zajmujących się bezpieczeństwem. Wyszło z tego, że od 2011 roku co najmniej 27 operacji informacyjnych w internecie przypisano częściowo lub w całości firmom PR lub marketingowym. Dziewiętnaście z nich miało miejsce tylko w 2019 roku. Materiał powstał we współpracy z Reporter, serwisem dziennikarstwa śledczego na Tajwanie.

Nathaniel Gleicher, szef polityki cyberbezpieczeństwa Facebooka, powiedział BuzzFeed News, że "profesjonalizacja oszustwa" to rosnące zagrożenie. "Samo pojęcie oszustwa i operacji wpływu istnieje od dawna, ale przez ostatnie kilka lat widzieliśmy [...] firmy, które budują swój model biznesowy wokół oszustwa" - mówił.

Jeden przykład: Archimedes Group, izraelska firma, która zbudowała sieci setek stron, kont i grup na Facebooku. Jej strona obiecywała, że "wykorzysta każde narzędzie i każdą dostępną przewagę, aby zmienić rzeczywistość zgodnie z życzeniem klienta". W Mali prowadziła fałszywy profil fact-checkingowy, który podawał się za prowadzony przez miejscowych studentów. W Tunezji prowadziła stronę zatytułowaną "Stop a la Desinformation et aux Mensonges". W Nigerii prowadziła strony zarówno za, jak i przeciw temu samemu politykowi, byłemu wiceprezydentowi Atiku Abubakarowi.

Taśma produkcyjna: zbierz, przepisz, opublikuj, wzmocnij

Peng Kuan Chin, 32-latek z Taizhong na Tajwanie, pokazał Reporter, jak działa jego system. Serwery przeszukiwały sieć w poszukiwaniu chińskich artykułów i postów, przeorganizowały słowa i zdania w nowy tekst, a potem publikowały wynik w należących do niego serwisach. Tysiące fałszywych kont w mediach społecznościowych wpychały to do kanałów, komunikatorów i wyników wyszukiwania.

"Zrobiłem to do manipulowania opinią publiczną" - powiedział Peng Reporterowi. Automatyzacja i sztuczna inteligencja "potrafią szybko generować ruch i rozgłos znacznie szybciej niż ludzie".

Jego klientami były firmy, marki, partie polityczne i kandydaci w Azji. "Klienci mają pieniądze i nie obchodzi mnie, co kupują" - mówił.

Nie każda operacja opiera się na zamówionym oprogramowaniu. W Ukrainie firma PR Pragmatico zatrudniała dziesiątki młodych, obytych z technologią ludzi, żeby publikowali pozytywne komentarze z fałszywych kont na Facebooku o klientach. W Polsce Cat@Net prowadziła sieci fałszywych kont na Twitterze. Obsługiwali je pracownicy z niepełnosprawnościami, pracujący z domu. Agencja zatrudniała ich, bo mogła płacić im poniżej stawek rynkowych, gdy jednocześnie pobierali państwowe dopłaty. Investigate Europe ustaliło też, że Cat@Net pracowała dla Art-Media, jednej z największych agencji PR w Polsce. Art-Media zaprzeczyła współpracy z Cat@Net.

Cindy Otis, była oficer CIA i autorka książki True or False: A CIA Analyst's Guide to Spotting Fake News, powiedziała BuzzFeed News, że operacje informacyjne państw takich jak Rosja i Iran dały "podręcznik dla jednostek i grup kierujących się motywacją finansową", które wchodzą w tę przestrzeń.

Jak rozprzestrzeniała się narracja z Southport

Sprawa Southport nie potrzebowała opłaconego wykonawcy. Potrzebowała platformy, publiczności i historii pasującej do tego, w co część tej publiczności już wierzyła.

Joe Ondrak, szef badań i technologii w Logically na Wielką Brytanię, powiedział CNBC, że fałszywe twierdzenia były "kocią miętką" dla grup antymigranckich. "To dokładnie to, co trzeba powiedzieć, żeby wywołać znacznie gniewniejszą reakcję, niż prawdopodobnie by była, gdyby dezinformacja nie krążyła" - mówił.

Ondrak dodał, że doniesienia działały jako "sposób na racjonalizowanie i wzmacnianie istniejących wcześniej uprzedzeń, stronniczości i spekulacji, zanim jakakolwiek ustalona prawda zdążyła się pojawić".

Wzmocnienie wykonało większość pracy. Rose powiedziała, że konta z setkami tysięcy obserwujących i płatnymi niebieskimi znaczkami udostępniały fałszywe informacje, a algorytmy platform podawały je dalej innym użytkownikom. "Na przykład gdy szukało się 'Southport' na TikToku, w sekcji 'Inni szukali', która poleca podobne treści, fałszywe nazwisko sprawcy było promowane przez samą platformę, także 8 godzin po tym, jak policja potwierdziła, że ta informacja jest nieprawdziwa" - mówiła.

Analiza ISD wykazała, że algorytmy działały podobnie na X, gdzie nieprawidłowe nazwisko pojawiło się jako temat na czasie. Fałszywe twierdzenia dotarły też do Telegrama, który według Ondraka konsoliduje narracje i naraża więcej osób na "twardsze poglądy". Telegram powiedział CNBC, że nie pomaga szerzyć dezinformacji, a moderatorzy monitorują sytuację i usuwają kanały i posty wzywające do przemocy.

Liczby stały się duże. Raport Komisji Nauki, Innowacji i Technologii Izby Gmin z lipca 2025 roku podał, że między 29 lipca a 9 sierpnia 2024 roku fałszywe lub bezpodstawne twierdzenia o sprawcy z Southport osiągnęły 155 mln wyświetleń na X. W mediach społecznościowych fałszywe nazwisko zobaczyło 420 000 osób, a potencjalny zasięg wyniósł 1,7 mld ludzi, podał raport. Było ono promowane bezpośrednio przez narzędzia algorytmiczne, pojawiając się w funkcjach "Trending in the UK" na X i "Inni szukali" na TikToku.

Gdy sieć wychodzi z ekranu

Skrajnie prawicowe grupy zorganizowały antymigranckie i antyislamskie protesty, w tym demonstrację podczas planowanego czuwania dla zabitych dziewczynek. Niepokoje przerodziły się w dni zamieszek. Atakowano meczety, ośrodki dla imigrantów i hotele, w których mieszkają osoby ubiegające się o azyl.

Przynajmniej część kont wzywających do udziału w protestach można było prześledzić do skrajnej prawicy, wynika z analizy Logically, w tym niektóre powiązane z National Action, zakazaną skrajnie prawicową grupą uznaną za organizację terrorystyczną w 2016 roku na mocy brytyjskiej ustawy o terroryzmie. Ondrak zauważył też, że wiele grup, które wcześniej rozpowszechniało fałszywe informacje o ataku, zaczęło się z nich wycofywać, twierdząc, że to mistyfikacja.

Właściciel X Elon Musk zabrał głos w czasie zamieszek, wygłaszając kontrowersyjne komentarze o gwałtownych demonstracjach. Brytyjski minister ds. sądownictwa wezwał go, żeby "zachowywał się odpowiedzialnie". TikTok i X nie odpowiedziały od razu na prośbę CNBC o komentarz.

W środę po najgorszych dniach przemocy tysiące przeciwników rasizmu wyszły na ulice miast i miasteczek w całej Wielkiej Brytanii, znacznie przewyższając liczebnie niedawne antymigranckie protesty.

Problem z przepisami

Wielka Brytania ma ustawę o bezpieczeństwie online, ale jej zdolność do objęcia tego rodzaju treści jest sporna. Prawo otrzymało sankcję królewską w październiku 2023 roku. Przepisy zobowiązujące firmy społecznościowe do ochrony użytkowników przed nielegalnymi treściami weszły w życie 17 marca 2025 roku.

Na posiedzeniu Komisji Nauki, Innowacji i Technologii 29 kwietnia baronessa Jones of Whitchurch, minister w DSIT oraz w Departamencie Biznesu i Handlu, powiedziała, że dezinformacja i celowe wprowadzanie w błąd są objęte ustawą. Mark Bunting, dyrektor ds. realizacji strategii bezpieczeństwa online w Ofcom, powiedział, że poprzedni rząd usunął z zakresu ustawy materiał prawny, który może być szkodliwy dla dorosłych, w tym niektóre formy dezinformacji. Dodał, że jest "jeden mały wyjątek": ustawa wprowadziła przestępstwo fałszywej komunikacji z zamiarem wyrządzenia krzywdy, gdy firmy mają uzasadnione podstawy, by wnioskować o zamiarze.

Przewodnicząca komisji Chi Onwurah wskazała, że zamiar jest bardzo trudny do udowodnienia. Powiedziała, że Ofcom nie ma obowiązków działania w sprawie dezinformacji, nawet jeśli kodeksy o niej mówią. "To wydaje się kluczową kwestią" - mówiła.

Talitha Rowland, dyrektorka ds. bezpieczeństwa i szkód online w DSIT, powiedziała komisji, że "dezinformacja i celowe wprowadzanie w błąd to nie jedna rzecz". Może być nielegalna, stanowić obcą ingerencję, treść nawołującą do nienawiści lub przemocy albo treść poniżej progu nielegalności, która wciąż szkodzi dzieciom.

W lipcu raport komisji był bardziej dosadny. Stwierdzał, że ustawa nie radzi sobie z algorytmicznym wzmacnianiem "treści legalnych, ale szkodliwych", przez co społeczeństwo jest narażone na powtórkę poprzedniego lata. "Jasne jest, że ustawa o bezpieczeństwie online po prostu nie jest wystarczająca" - powiedziała Onwurah. Komisja wezwała rząd do przyjęcia pięciu zasad przyszłych regulacji, od ochrony wolności słowa po rozliczanie platform z treści, które publikują.

Jeszcze jeden szczegół: narzędzia używane do szerzenia tych materiałów się zmieniają. Grokipedia, uruchomiona przez Muska w październiku 2025 roku, wykorzystuje AI do zbierania i przekształcania treści przy niewielkim nadzorze człowieka, napisał Andrew Orlowski w UnHerd. Wczesne doniesienia o wersji 0.1 odnotowały generowane przez AI fałszowanie i uwłaczające fragmenty dodane "w imię dokładności". Orlowski przekonuje, że duże modele językowe to "statystyczne silniki uzupełniania słów, które halucynują, a te halucynacje są endemiczne".