Przejdź do treści
Czas na świecieEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal o AI i technologiiwydarzenia · analizy · wywiady · tło techniczne

Szukaj
NA ŻYWO
›

Jak działają sieci dezinformacji w internecie i dlaczego wciąż wygrywają

Guardian podał, że klip z kulisami palestyńskiego filmu krótkometrażowego obejrzano około dwa miliony razy na X. Podpis brzmiał: „Wideo pokazujące, jak Izrael próbuje stworzyć fałszywy materiał o ofiarach”. Klip był prawdziwy. Twierdzenie nie.

Media i internetWyjaśnienieMarta ZielińskaOpublikowano: 28 września 20268 min czytaniaŹródła 6
Jak działają sieci dezinformacji w internecie i dlaczego wciąż wygrywają

Guardian opisał ten post 11 października 2023 r. To dobry punkt wyjścia do zrozumienia, jak działają sieci dezinformacji w internecie. Rzadko wymyślają materiał od zera. Biorą prawdziwe nagranie, wstawiają je w fałszywą ramę i pozwalają platformie zrobić resztę.

Ten sam przegląd Guardiana zebrał inne przykłady z dni po ataku Hamasu na Izrael w sobotę 7 października. Jedno wideo pochodziło z oficjalnego kanału YouTube azerskiej służby bezpieczeństwa państwa. Pokazywało zatrzymanych byłych przywódców samozwańczego rządu Górskiego Karabachu. Na X trafiło jako nagranie ze schwytanymi izraelskimi generałami i zebrało dwa miliony wyświetleń. Sfałszowane memorandum Białego Domu, przedstawiane jako decyzja Joe Bidena o przekazaniu Izraelowi 8 mld dol., obejrzano 400 tys. razy. Według Guardiana była to przerobiona wersja jego lipcowego dokumentu o czterystu milionach dolarów pomocy dla Ukrainy. Biały Dom potwierdził NBC, że dokument jest fałszywy.

Cztery ruchome części, nie jedna

Relacje wskazują na powtarzający się schemat. Po pierwsze, surowiec: prawdziwy obraz, wideo, dokument albo wydarzenie. Po drugie, rama: podpis, nazwisko, narodowość, religia. Po trzecie, dystrybucja: duże konta, płatna weryfikacja i systemy rekomendacji. Wypychają fałszywą ramę do ludzi, którzy jej nie szukali. Po czwarte, opóźnienie: sprostowanie przychodzi, gdy narracja już stwardniała.

Sprawa Southport z lipca 2024 r. pokazuje to opóźnienie wyraźnie. Atak nożownika zabił trzy młode dziewczynki. W ciągu godzin w internecie rozeszły się fałszywe twierdzenia o imieniu, religii i statusie migracyjnym napastnika. Hannah Rose jest analityczką ds. nienawiści i ekstremizmu w Institute for Strategic Dialogue. Powiedziała CNBC, że post na X fałszywie nazwał sprawcę „Ali al-Shakati”, rzekomo migranta wyznania muzułmańskiego. Do 15:00 następnego dnia, jak mówiła, fałszywe nazwisko miało ponad 30 tys. wzmianek tylko na X. Policja zdementowała te twierdzenia dzień po tym, jak się pojawiły. Podała, że podejrzany urodził się w Wielkiej Brytanii, ale narracja zdążyła już zyskać popularność. Skrajnie prawicowe grupy zorganizowały protesty antymigracyjne i antyislamskie. Przerodziły się one w dni zamieszek i ataków na meczety, ośrodki dla imigrantów i hotele, w których mieszkają osoby ubiegające się o azyl.

Rose opisała też, jak mechanizmy platformy wzmacniały fałszywe nazwisko, zamiast tylko je gościć. Powiedziała, że gdy użytkownicy wpisywali „Southport” na TikToku, sekcja „Inni szukali” promowała fałszywe nazwisko napastnika. Działo się to również 8 godzin po tym, jak policja potwierdziła, że informacja jest nieprawdziwa. Analiza ISD wykazała, że algorytmy działały podobnie na X, gdzie błędne nazwisko figurowało jako temat na czasie.

Dlaczego fałszywe ramy podróżują

Joe Ondrak jest liderem badań i technologii w brytyjskim oddziale Logically. Powiedział CNBC, że twierdzenia z Southport zadziałały jak „kocia mięta” na odbiorców, których przez lata przygotowywała retoryka antymigracyjna. „To nie jest tak, że to fałszywe twierdzenie wychodzi i, no wiecie, wszyscy w nie wierzą”, powiedział. Takie doniesienia działają raczej jako „sposób na racjonalizację i wzmocnienie istniejących uprzedzeń, stronniczości i spekulacji, zanim jakakolwiek ustalona prawda zdąży się pojawić”.

Ten mechanizm nie dotyczy jednego kraju ani jednego konfliktu. Przegląd Guardiana z października 2023 r. zauważył, że Rosja od dawna szerzy dezinformację na X. Wyglądało na to, że wykorzystuje konflikt izraelsko-hamasowski. Były prezydent Rosji Dmitrij Miedwiediew, zastępca przewodniczącego Rady Bezpieczeństwa Rosji, napisał na Twitterze, że broń NATO przekazana Ukrainie jest teraz używana przeciwko Izraelowi. Konto na X powiązane z grupą najemników Wagnera opublikowało wideo, które rzekomo pokazywało Hamas dziękujący Ukrainie za broń. Obejrzano je ponad 300 tys. razy, a udostępniały je skrajnie prawicowe konta w USA. Eliot Higgins z Bellingcat wskazał fałszywe wideo BBC. Miało pokazywać śledztwo Bellingcat w sprawie przemytu ukraińskiej broni do Hamasu, rozpowszechniane przez rosyjskich użytkowników mediów społecznościowych. Higgins powiedział, że nie jest jasne, czy to kampania rządu rosyjskiego, czy oddolna inicjatywa.

Skala ma tu znaczenie. Przegląd CNN opublikowany 13 listopada 2023 r. wykazał, że chiński rząd zbudował największą znaną operację dezinformacyjną w internecie. Używał jej do nękania mieszkańców USA, polityków i firm, czasami grożąc celom przemocą. Sieć, znana jako „Spamouflage” lub „Dragonbridge”, ma setki tysięcy kont na głównych platformach. Meta podała w sierpniu 2023 r., że tylko w drugim kwartale tego roku usunęła grupę blisko 8 tys. kont przypisanych tej siatce. Google powiedział CNN, że w ostatnich latach zamknął ponad 100 tys. powiązanych kont. X zablokował setki tysięcy chińskich kont „wspieranych przez państwo” lub „powiązanych z państwem”. Departament Stanu USA opisał te taktyki jako część szerszego, wielomiliardowego wysiłku kształtowania światowego środowiska informacyjnego i uciszania krytyków Pekinu.

Luka w moderacji

Platformy nie są pasywnymi rurami i kilka raportów pokazuje to konkretnie. Guardian podał, że Elon Musk rozwiązał Radę ds. Zaufania i Bezpieczeństwa X po przejęciu firmy w 2022 r. Podał też, że w ciągu roku zwolnił dwóch szefów ds. zaufania i bezpieczeństwa. Firma twierdziła, że ma plany reorganizacji zespołu, ale pozostały one niejasne. X wprowadził Community Notes, oparty na tłumie program moderacji. W dużej mierze przerzuca on obowiązek korygowania faktów na użytkowników, zamiast na zatrudnionych moderatorów treści. We wtorek 10 października 2023 r. Komisja Europejska wysłała Muskowi list. Ostrzegła go w sprawie domniemanej dezinformacji na X o ataku Hamasu, w tym fałszywych wiadomości i „przepakowanych starych obrazów”.

Niezależne badania śledziły kierunek zmian. Union of Concerned Scientists, pisząc 20 września 2023 r., przytoczył ustalenie Center for Countering Digital Hate. X „nadal hostuje blisko 86% zestawu 300 nienawistnych postów tydzień po tym, jak je zgłosiliśmy”. Badaczka Abbie Richards ustaliła, że tweety negujące klimat miały średnio 30 tys. tygodniowo między grudniem 2021 a lipcem 2022. Po lipcu 2022 ich liczba prawie się potroiła, do 110 tys. tygodniowo. Badacz z Uniwersytetu Południowej Kalifornii ustalił, że średnia dzienna mowa nienawiści nienawistnych użytkowników prawie się podwoiła w pierwszych sześciu miesiącach własności Muska. Wpis UCS przytoczył też spadek przychodów z reklam o około 60%.

Nic z tego nie jest terenem bezspornym. Ten sam tekst UCS zauważył, że większość dezinformacji klimatycznej na X pochodzi od stosunkowo niewielu użytkowników. W okresie przed COP27 i w jego trakcie tweety i cytowane tweety z zaledwie 16 kont zebrały 507 tys. polubień i podań dalej. Niewielka liczba zdeterminowanych kont może stworzyć pozór masowego ruchu. Właśnie to sprawia, że model sieciowy jest trudny do upilnowania.

Co mówi społeczeństwo

Sondaż Ipsos zamówiony przez UNESCO objął 8 tys. osób w 16 krajach, w których w 2024 r. miały się odbyć wybory krajowe. Guardian opisał go 7 listopada 2023 r. Wynikało z niego, że 85% respondentów martwi się wpływem dezinformacji w internecie. 87% stwierdziło, że miała już duży wpływ na krajowe życie polityczne. Media społecznościowe były głównym źródłem wiadomości dla 56% użytkowników internetu, przed telewizją (44%) i serwisami medialnymi (29%). Zaufanie do wiadomości w mediach społecznościowych wynosiło 50% wobec 66% dla telewizji. We wszystkich 16 krajach 68% stwierdziło, że fałszywe wiadomości są najbardziej rozpowszechnione w mediach społecznościowych.

Dyrektorka generalna UNESCO Audrey Azoulay powiedziała dziennikarzom, że fałszywe informacje i mowa nienawiści w internecie stanowią „poważne zagrożenia dla spójności społecznej, pokoju i stabilności”. Powiedziała, że platformy przyspieszają i wzmacniają te treści. Mówiła, że regulacje są pilnie potrzebne, „aby chronić dostęp do informacji... a jednocześnie chronić wolność słowa i prawa człowieka”. UNESCO podało, że jego plan zarządzania opierał się na ponad 10 tys. wkładów z 134 krajów w ciągu 18 miesięcy. Podało, że ponad 50 krajów już reguluje media społecznościowe, często niezgodnie z międzynarodowymi normami wolności słowa i praw człowieka.

Regulacje też nie są rozstrzygniętą odpowiedzią. Senator Sheldon Whitehouse opowiadał się za uchyleniem artykułu 230 Communications Decency Act. Chce węższej wersji, która wymusiłaby „ujawnianie finansujących dezinformację”, według omówienia jego rozdziału książki i wątku na Twitterze przez Reclaim The Net. Whitehouse argumentował, że „groźba odpowiedzialności prawnej mogłaby na przykład sprawić, że Facebook i inne firmy chętniej przyjmą środki, które zatrzymają rozprzestrzenianie się dezinformacji, nawet jeśli zmniejszą zaangażowanie użytkowników, bo brak działania niósłby własne ryzyko finansowe”. Krytycy tego podejścia, jak zauważa Reclaim The Net, podejrzewają, że większość dezinformacji stałaby się po prostu mową chronioną przez Pierwszą Poprawkę.

Wielka Brytania daje żywy test. Ma Online Safety Act, ustawę mającą zwalczać mowę nienawiści. Ale CNBC podało, że wchodzi ona w życie dopiero na początku przyszłego roku i może nie wystarczyć, by chronić przed niektórymi formami dezinformacji. W środę 7 sierpnia 2024 r. brytyjski regulator mediów Ofcom napisał do platform społecznościowych. Podał, że nie powinny czekać na wejście w życie nowego prawa.

Zastępca dyrektora Amnesty Tech Pat de Brún powiedział Guardianowi, że platformy takie jak Meta i X mają jasne obowiązki wynikające z międzynarodowych standardów praw człowieka. Powiedział, że obowiązki te rosną w czasie kryzysu i konfliktu. „Firmy mediów społecznościowych są odpowiedzialne za identyfikowanie i skuteczne reagowanie na ryzyka oraz podejmowanie skutecznych środków ograniczających rozprzestrzenianie szkodliwych treści”, powiedział. Dodał, że duże firmy technologiczne „zbyt często” nie stają na wysokości zadania w takich sytuacjach kryzysowych.

Komentarze 0

Źródła

6
  1. 01How Israel-Hamas war disinformation is being spread onlineEN
  2. 0285% of people worry about online disinformation, global survey findsEN
  3. 03Online disinformation sparked a wave of far-right violence in the UKEN
  4. 04China is using the world's largest online disinformation operation to harass AmericansEN
  5. 05Senator Sheldon Whitehouse wants to repeal Section 230 to combat online "disinformation"EN
  6. 06For Online Disinformation and Hate, X Marks the SpotEN

Wszystkie liczby i cytaty w tym tekście pochodzą z poniższych źródeł. Nie dopisujemy danych, których w źródłach nie ma.

Materiały zostały przygotowane przez zespół redakcyjny wspierane przez AI.

Marta Zielińska

Marta Zielińska

AI, modele i technologie

Marta Zielińska pisze o technologiach, AI i modelach oraz mediach i internecie, opierając się na dokumentacji, preprintach i danych z API, a nie na zapowiedziach producentów. Przy każdej publikacji sprawdza karty modeli, parametry treningowe i benchmarki, a liczby porównuje z niezależnymi testami i wynikami z repozytoriów. Rozmawia z badaczami i inżynierami, czeka na kolejne wydania modeli i zestawia ich działanie z wcześniejszymi wersjami. Prywatnie drukuje w 3D, naprawia stare komputery i sprawdza, jak modele uczą się na śmieciach z internetu. Nie publikuje wyników, których nie może odtworzyć na własnym sprzęcie.

Redakcja →

Komentarze

0
  1. Brak komentarzy — bądź pierwszy.

Dodaj komentarz

Komentarze są widoczne publicznie. Nie publikujemy wulgaryzmów, spamu i treści reklamowych.