Przejdź do treści
Czas na świecieEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal o AI i technologiiwydarzenia · analizy · wywiady · tło techniczne

Szukaj
NA ŻYWO
›

Jak działają sieci dezinformacji. Cztery przypadki, jeden schemat

Klip z kulis palestyńskiego krótkiego metrażu opatrzono nowym podpisem, który miał dowodzić, że Izrael inscenizuje ofiary. Na X zobaczyły go około dwa miliony osób. Był jednym z elementów uprzemysłowionego systemu szybkiego produkowania fałszu.

Media i internetAnalizaAnna KaczmarekOpublikowano: 28 września 20269 min czytaniaŹródła 6
Jak działają sieci dezinformacji. Cztery przypadki, jeden schemat

Na nagraniu młody chłopiec w czarnym T-shircie leży w kałuży krwi. Kamera unosi się nad nim, mężczyzna wykrzykuje polecenia. Wokół stoją mężczyźni w kipach, obok nich mężczyźni w zielonych mundurach przypominających uniformy IDF. Zweryfikowany użytkownik udostępnił klip na X z podpisem „Film pokazujący, jak Izrael próbuje stworzyć fałszywe nagranie śmierci”. Według Guardiana dotarł do około dwóch milionów wyświetleń. Nagranie pochodziło z kulis planu palestyńskiego krótkiego metrażu „Empty Place”. Najprawdopodobniej zaczęło krążyć na TikToku, zanim trafiło na X. Autor wpisu przyznał później, że klip mógł zostać użyty poza kontekstem.

Guardian opisał tę sprawę w październiku 2023 r. To przydatny przykład, bo każdy etap jest udokumentowany.

Sieci dezinformacji nie są jednym tworem. To zestaw powtarzalnych mechanizmów. Znajdź materiał, który da się przełożyć w nowy kontekst. Przepchnij go przez konta, które mają zasięg. Rozdystrybuuj go algorytmem platformy. A potem licz na to, że sprostowania przychodzą późno i rozchodzą się słabo. Analiza obejmuje cztery osobne operacje w czterech krajach, napędzane czterema różnymi zestawami motywów. Mechanizmy zachodzą na siebie bardziej niż polityka.

Podmienione nagrania, nowe etykiety

Inne nagranie, też z TikToka i dziś już tam niedostępne, miało pokazywać schwytanych przez Hamas izraelskich generałów. Na X zebrało dwa miliony wyświetleń. Państwowa służba bezpieczeństwa Azerbejdżanu opublikowała je najpierw na oficjalnym kanale YouTube. Widać na nim aresztowanych byłych przywódców separatystycznego rządu Górskiego Karabachu. Sfałszowany dokument, z którego miało wynikać, że Joe Biden przekazał Izraelowi 8 mld pomocy, obejrzano 400 000 razy na X. To była przerobiona wersja lipcowego memorandum Bidena o 400 mln pomocy dla Ukrainy. Takiego dokumentu nie ma na stronie Białego Domu ani w mediach społecznościowych. Biały Dom potwierdził NBC, że dokument jest fałszywy.

Żadna z tych operacji nie wymagała technicznego wyrafinowania. Wymagała publiczności przygotowanej na to, by uwierzyć w twierdzenie, i platformy, która je poniesie.

Rosja od dawna szerzy dezinformację na X i najwyraźniej wykorzystała konflikt. W poniedziałek Dmitrij Miedwiediew, były prezydent Rosji i zastępca przewodniczącego Rady Bezpieczeństwa, napisał na X: „Cóż, kumple z NATO, dostaliście w kość, prawda? Broń przekazana nazistowskiemu reżimowi w Ukrainie jest teraz aktywnie używana przeciwko Izraelowi”. Konto na X powiązane z grupą najemników Wagnera opublikowało nagranie, na którym Hamas rzekomo dziękuje Ukrainie za sprzedaż broni. Zobaczyło je ponad 300 000 osób, a udostępniały je skrajnie prawicowe konta w USA. W lutym inspektor generalny Pentagonu podał, że nie ma dotąd dowodów, by broń i pomoc dla Ukrainy trafiały do osób trzecich. W tym tygodniu ukraiński wywiad oskarżył Rosję o podrzucanie Hamasowi zdobycznej zachodniej broni z ukraińskich pól bitewnych, żeby osłabić poparcie dla Kijowa. Eliot Higgins z Bellingcat zwrócił uwagę na fałszywe nagranie BBC, które miało pokazywać śledztwo Bellingcat w sprawie przemytu ukraińskiej broni do Hamasu. Rosyjscy użytkownicy social mediów je rozpowszechniali. Higgins powiedział, że nie jest jasne, czy to kampania państwowa, czy oddolna akcja.

Kiedy kłamstwo schodzi z ekranu

W lipcu 2024 r. trzy dziewczynki zginęły w ataku nożownika w Southport w Wielkiej Brytanii. W ciągu kilku godzin fałszywe informacje o imieniu, religii i statusie migracyjnym napastnika zyskały duży zasięg. Wywołały dni gwałtownych zamieszek w całym kraju. Hannah Rose, analityczka nienawiści i ekstremizmu w Institute for Strategic Dialogue, powiedziała CNBC, że wpis na X fałszywie nazwał sprawcę „Ali al-Shakati”, rzekomo migranta wyznania muzułmańskiego. Do godziny 15:00 następnego dnia fałszywe nazwisko miało ponad 30 000 wzmianek tylko na X.

Inne fałszywe twierdzenia mówiły, że napastnik był na liście obserwowanych służb specjalnych. Według analizy ISD miał przybyć do Wielkiej Brytanii małą łodzią w 2023 r. i być znany lokalnym służbom zdrowia psychicznego. Policja zdementowała te twierdzenia dzień po ich pojawieniu się, podając, że podejrzany urodził się w Wielkiej Brytanii. Wtedy narracja miała już napęd.

Joe Ondrak, lider ds. badań i technologii w brytyjskim oddziale Logically, powiedział CNBC, że fałszywe doniesienia działały jak „sposób na uzasadnienie i wzmocnienie istniejących uprzedzeń i spekulacji, zanim jakakolwiek ustalona prawda mogła się pojawić”. Nazwał ten materiał „kocimiętką” dla grup antymigracyjnych: „To dokładnie to, co trzeba powiedzieć, żeby wywołać znacznie gniewniejszą reakcję, niż byłaby, gdyby dezinformacja nie krążyła”.

Strona dystrybucji waży tyle samo co samo twierdzenie. Rose mówiła, że fałszywe informacje udostępniały konta ze setkami tysięcy obserwujących, wraz z płatnymi niebieskimi znaczkami na X. Potem algorytmy platformy podsuwały je innym użytkownikom. Kiedy użytkownicy wpisywali „Southport” na TikToku, platforma sama promowała fałszywe nazwisko napastnika w sekcji „Inni szukali”. Tak było jeszcze osiem godzin po tym, jak policja potwierdziła, że informacja jest nieprawdziwa. ISD znalazło podobne działanie algorytmu na X, gdzie nieprawdziwe nazwisko trafiło do trendów. Twierdzenia dotarły też na Telegram. Ondrak powiedział, że konsoliduje on narracje i wystawia więcej osób na „bardziej twarde przekonania”. Telegram zaprzeczył, by pomagał szerzyć dezinformację. Podał, że moderatorzy monitorowali sytuację i usuwali kanały oraz wpisy wzywające do przemocy, których regulamin nie pozwala. Według Logically część kont wzywających do udziału w protestach prowadziła do skrajnej prawicy. Wśród nich były konta powiązane z zakazaną grupą National Action, uznaną za organizację terrorystyczną w 2016 r. na mocy brytyjskiej ustawy o terroryzmie.

Największa znana operacja

Skala zmienia obraz. CNN przeanalizowało dokumenty sądowe i publiczne ujawnienia firm social mediowych i ustaliło, że chiński rząd zbudował największą znaną operację dezinformacyjną na świecie. Używa jej do nękania mieszkańców USA, polityków i firm, czasem grożąc celom przemocą. Sieć znana jako „Spamouflage” lub „Dragonbridge” działa na setkach tysięcy kont na każdej większej platformie. Departament Stanu USA opisuje te taktyki jako część szerszego, wielomiliardowego wysiłku kształtowania światowego środowiska informacyjnego i uciszania krytyków Pekinu. Twierdzi, że wysiłek rozrósł się za prezydenta Xi Jinpinga.

Ofiary opisywały lawinę dziesiątek tysięcy wpisów nazywających je zdrajcami, psami i obelgami rasistowskimi oraz homofobicznymi. Część rozmawiała ze służbami, w tym z FBI, ale niewiele zrobiono, podało CNN. Platformy zamknęły tysiące kont wymierzonych w te osoby, ale nowe pojawiają się codziennie i wyprzedzają te działania. Meta podała w sierpniu, że tylko w drugim kwartale 2023 r. usunęła grupę blisko 8 000 kont przypisywanych tej sieci. Google powiedział CNN, że w ostatnich latach zamknął ponad 100 000 powiązanych kont. X zablokował setki tysięcy kont chińskich „wspieranych przez państwo” lub „powiązanych z państwem”, wynika z blogów firmy.

Prywatni badacze śledzą sieć od ponad czterech lat od jej wykrycia. Dopiero w ostatnich miesiącach prokuratorzy federalni i Meta publicznie uznali, że operacja ma związki z chińską policją. Kongresmen Mike Gallagher, przewodniczący Komisji Specjalnej Izby Reprezentantów ds. KPCh, powiedział CNN: „Możemy myśleć, że to ogranicza się do pewnych czatów albo tej czy innej platformy, ale to rozszerza się na wszystkie pola. I to kwestia czasu, kiedy dotknie przeciętnego obywatela USA, który teraz nie uważa, że to jego problem”.

Chen Pokong, działacz mieszkający w Nowym Jorku, widział, jak trolle zakłóciły antykomunistyczne wydarzenie na Zoomie, które zorganizował w styczniu 2021 r. Wyśmiewały uczestników i groziły, że jedna z ofiar „umrze w męczarniach”. Jego podejrzenia co do sprawców skrystalizowały się na początku tego roku. Departament Sprawiedliwości postawił wtedy zarzuty ponad 30 chińskim urzędnikom w związku z rozległą operacją dezinformacyjną wymierzoną w dysydentów w USA, w tym osoby z tego spotkania na Zoomie.

Co mówią odbiorcy

Niepokój społeczny nie jest marginalny. Badanie Ipsos zamówione przez UNESCO objęło 8 000 osób w 16 krajach, w których miały się odbyć wybory krajowe, z łącznie 2,5 mld wyborców. Wynika z niego, że 85% badanych martwiło się wpływem dezinformacji w internecie. 87% stwierdziło, że miała już duży wpływ na krajowe życie polityczne. 56% użytkowników internetu czerpało wiadomości głównie z social mediów, więcej niż z telewizji (44%) czy serwisów informacyjnych (29%). Zaufanie do social mediów wynosiło 50%, wobec 66% dla telewizji, 63% dla radia i 57% dla serwisów i aplikacji informacyjnych. We wszystkich 16 krajach 68% wskazało social media jako miejsce, gdzie fałszywe wiadomości są najbardziej rozpowszechnione, przed komunikatorami z 38%.

Audrey Azoulay, dyrektorka generalna UNESCO, powiedziała dziennikarzom, że fałszywe informacje i mowa nienawiści w internecie, przyspieszane i wzmacniane przez platformy, niosą „poważne ryzyko dla spójności społecznej, pokoju i stabilności”. Regulacje są pilnie potrzebne, mówiła, „żeby chronić dostęp do informacji, a jednocześnie chronić wolność wypowiedzi i prawa człowieka”. Plan UNESCO opiera się na siedmiu zasadach, wyciągniętych z tego, co organizacja nazywa bezprecedensowymi konsultacjami: ponad 10 000 wypowiedzi ze 134 krajów w ciągu 18 miesięcy. Guilherme Canela de Souza Godoi, szef sekcji wolności wypowiedzi w UNESCO, powiedział, że ponad 50 krajów już reguluje social media, często niezgodnie z międzynarodowymi normami wolności słowa i praw człowieka. UNESCO planuje w 2024 r. Światową Konferencję Regulatorów.

Zwolennicy regulacji mają swoje argumenty. Senator Sheldon Whitehouse wezwał do uchylenia sekcji 230 Communications Decency Act i zastąpienia jej węższą wersją, która wymusiłaby „ujawnianie finansujących dezinformację”, podał Reclaim The Net. Whitehouse przekonuje, że ryzyko odpowiedzialności prawnej mogłoby skłonić firmy do działania przeciw dezinformacji nawet kosztem zaangażowania użytkowników. Krytycy odpowiadają, że większość dezinformacji trafiłaby wtedy pod ochronę wolności słowa.

Żadna z tych debat nie zmienia arytmetyki operacyjnej. W relacji Guardiana o X czytamy, że Musk rozwiązał Radę ds. Zaufania i Bezpieczeństwa platformy po przejęciu w 2022 r. Firma podała, że planuje zreorganizować zespół, ale plany pozostają niejasne. X wprowadził Community Notes, moderację opartą na pracy użytkowników, która przenosi większość obowiązku na nich, a nie na zatrudnionych moderatorów. Union of Concerned Scientists, powołując się na Center for Countering Digital Hate, podała, że X „nadal hostuje blisko 86% zestawu 300 wpisów pełnych nienawiści tydzień po tym, jak je zgłosiliśmy”. Badaczka Abbie Richards ustaliła, że wpisy negujące zmiany klimatu wzrosły ze średnio 30 000 tygodniowo między grudniem 2021 a lipcem 2022 r. do blisko 110 000 tygodniowo po lipcu 2022 r.

Schemat we wszystkich czterech przypadkach jest ten sam. Twierdzenie zostaje wymyślone albo odtworzone. Wysiewają je konta z zasięgiem. Systemy ustawione na zaangażowanie windują je w rankingu. Sprostowanie przychodzi po szkodzie. Jak pokazał Southport, sprostowanie może przyjść w ciągu doby. Zamieszki i tak wybuchły.

Komentarze 0

Źródła

6
  1. 01How Israel-Hamas war disinformation is being spread onlineEN
  2. 0285% of people worry about online disinformation, global survey findsEN
  3. 03Online disinformation sparked a wave of far-right violence in the UKEN
  4. 04China is using the world's largest online disinformation operation to harass AmericansEN
  5. 05Senator Sheldon Whitehouse: Repeal Section 230 to combat online "disinformation"EN
  6. 06For Online Disinformation and Hate, X Marks the SpotEN

Wszystkie liczby i cytaty w tym tekście pochodzą z poniższych źródeł. Nie dopisujemy danych, których w źródłach nie ma.

Materiały zostały przygotowane przez zespół redakcyjny wspierane przez AI.

Anna Kaczmarek

Anna Kaczmarek

AI, modele i technologie

Anna Kaczmarek pisze o technologiach, AI i modelach oraz mediach i internecie, opierając się na dokumentacji, repozytoriach i danych źródłowych, a nie na komunikatach prasowych. Przy testach modeli sprawdza karty techniczne, parametry wejściowe i liczy wyniki na tych samych zbiorach, zamiast powtarzać liczby od producentów. Czeka na premiery API i aktualizacje wag, rozmawia z inżynierami oraz porównuje wersje modeli pod kątem kosztów i opóźnień. Prywatnie self-hostuje usługi i konfiguruje sieci domowe, więc do redakcji wnosi praktykę z własnego serwera. Nie publikuje zapowiedzi ani parametrów, których nie może odtworzyć na własnym środowisku.

Redakcja →

Komentarze

0
  1. Brak komentarzy — bądź pierwszy.

Dodaj komentarz

Komentarze są widoczne publicznie. Nie publikujemy wulgaryzmów, spamu i treści reklamowych.