Posłowie: Online Safety Act pomija dezinformację legalną, ale szkodliwą

Raport komisji wskazuje na ubiegłoroczne zamieszki w Wielkiej Brytanii. Zdaniem posłów w części napędzały je dezinformacja w internecie i nienawistne treści po śmiertelnym ataku nożownika na zajęciach tanecznych dla dzieci w Southport. Te wpisy wzmacniały algorytmy rekomendacyjne platform społecznościowych.

Online Safety Act otrzymała sankcję królewską w październiku 2023 roku. Przepisy zobowiązujące firmy społecznościowe do ochrony użytkowników przed nielegalnymi treściami weszły w życie w marcu 2025 roku. Komisja ostrzega, że prawo nadal nie radzi sobie z algorytmicznym wzmacnianiem tego, co nazywa „treściami legalnymi, ale szkodliwymi”. Społeczeństwo jest przez to narażone na powtórkę zeszłorocznego kryzysu. The Register opisał ustalenia komisji 11 lipca 2025 roku.

155 milionów wyświetleń na X

Liczby w raporcie są wymowne. Między 29 lipca a 9 sierpnia 2024 roku fałszywe lub bezpodstawne twierdzenia o sprawcy ataku w Southport uzyskały 155 000 000 wyświetleń na X. W mediach społecznościowych fałszywe nazwisko zobaczyło 420 000 osób, a potencjalny zasięg sięgnął 1 700 000 000 ludzi. Treści promowały bezpośrednio narzędzia algorytmiczne: pojawiały się w sekcji „Trending in the UK” na X i „Others searched for” na TikToku, podała komisja.

Dame Chi Onwurah, posłanka i przewodnicząca komisji nauki, innowacji i technologii, powiedziała, że prawo „po prostu nie jest na wystarczającym poziomie” i że rząd musi pójść dalej, aby uporać się z dezinformacją, która wyrządza szkody, ale nie przekracza granicy nielegalności. „Firmy społecznościowe nie są neutralnymi platformami, lecz aktywnie selekcjonują to, co widzisz w internecie, i muszą być rozliczane z tego”, stwierdziła. Komisja wezwała rząd do przyjęcia pięciu zasad jako podstawy przyszłych regulacji, od ochrony wolności słowa po odpowiedzialność platform za treści, które publikują.

Jak fałszywe twierdzenia rozprzestrzeniły się w ogóle, opisano szczegółowo. CNBC poinformowało 9 sierpnia 2024 roku, że w ciągu kilku godzin od ataku nożownika w Southport, w którym zginęły trzy młode dziewczynki, fałszywe informacje o nazwisku, religii i statusie migracyjnym sprawcy zyskały znaczący rozgłos. Hannah Rose, analityczka ds. nienawiści i ekstremizmu w Institute for Strategic Dialogue, powiedziała CNBC, że wpis na X fałszywie nazwał sprawcę „Ali al-Shakati”, rzekomo migranta wyznania muzułmańskiego, a do godziny 15:00 następnego dnia fałszywe nazwisko miało ponad 30 000 wzmianek tylko na X.

Inne fałszywe twierdzenia krążące w mediach społecznościowych mówiły, że sprawca był na liście obserwacyjnej służb wywiadowczych, że przybył do Wielkiej Brytanii małą łodzią w 2023 roku i że znały go lokalne służby zdrowia psychicznego. Tak wynika z analizy ISD cytowanej przez CNBC. Policja zdementowała te twierdzenia dzień po tym, jak się pojawiły, podając, że podejrzany urodził się w Wielkiej Brytanii. Wtedy narracja miała już rozpęd. Skrajnie prawicowe grupy zaczęły organizować antymigranckie i antyislamskie protesty, w tym demonstrację podczas planowanego czuwania dla zabitych dziewczynek. Niepokoje przerodziły się w dni zamieszek, z atakami na meczety, ośrodki dla imigrantów i hotele, w których mieszkają osoby ubiegające się o azyl.

Jak platformy wypychały fałszywe nazwisko

Media społecznościowe nie tylko gościły fałszywe informacje. Według Rose z ISD konta z setkami tysięcy obserwujących i opłaconymi niebieskimi znaczkami na X udostępniały fałszywe informacje, które potem algorytmy platformy wypychały do innych użytkowników. „Na przykład gdy wpisywało się »Southport« na TikToku, w sekcji »Others Searched For«, która poleca podobne treści, fałszywe nazwisko sprawcy było promowane przez samą platformę, także 8 godzin po tym, jak policja potwierdziła, że te informacje są nieprawdziwe”, powiedziała Rose CNBC. Analiza ISD pokazała, że algorytmy działały podobnie na innych platformach, takich jak X, gdzie nieprawidłowe nazwisko sprawcy pojawiło się jako temat trending.

Joe Ondrak, lider ds. badań i technologii w Wielkiej Brytanii w Logically, firmie technologicznej tworzącej narzędzia sztucznej inteligencji do walki z dezinformacją, powiedział CNBC, że fałszywe twierdzenia działały jak „kocia mięta” na grupy już wrogo nastawione do migracji. „Nie chodzi o to, że to fałszywe twierdzenie wychodzi, a potem, no wiecie, wszyscy w nie wierzą”, powiedział. Raporty działają raczej jako „sposób na racjonalizację i wzmocnienie wcześniejszych uprzedzeń, stronniczości i spekulacji, zanim jakakolwiek ustalona prawda zdąży się przebić”.

Fałszywe twierdzenia dotarły też na Telegram, który według Ondraka scala narracje i naraża coraz więcej osób na „bardziej twarde przekonania”. Opisał twierdzenia przepuszczane przez to, co nazwał pocovidowym milieu Telegramu, w tym kanały, które początkowo były antyszczepionkowe, a później przejęły je skrajnie prawicowe osoby promujące tematy antymigranckie. W odpowiedzi na prośbę CNBC o komentarz Telegram zaprzeczył, że pomaga rozprzestrzeniać dezinformację, twierdząc, że jego moderatorzy monitorują sytuację i usuwają kanały oraz wpisy nawołujące do przemocy, które są niedozwolone w jego regulaminie.

Przynajmniej część kont nawołujących do udziału w protestach można było prześledzić do skrajnej prawicy, wynika z analizy Logically, w tym niektóre powiązane z zakazaną skrajnie prawicową grupą National Action, uznaną za organizację terrorystyczną w 2016 roku na mocy brytyjskiej ustawy o terroryzmie. Ondrak zauważył też, że wiele grup, które wcześniej rozpowszechniało fałszywe informacje o ataku, zaczęło się z nich wycofywać, mówiąc, że to mistyfikacja.

Gdy zamieszki trwały, właściciel X Elon Musk włączył się do dyskusji kontrowersyjnymi komentarzami o gwałtownych demonstracjach na swojej platformie, co wywołało reakcję brytyjskiego rządu. Minister ds. sądów wezwał Muska, by „zachowywał się odpowiedzialnie”. TikTok i X nie odpowiedziały od razu na prośbę CNBC o komentarz. W środę po najgorszych zamieszkach tysiące przeciwników rasizmu protestowało w miastach i miasteczkach Wielkiej Brytanii, znacznie przewyższając liczebnie niedawne antymigranckie protesty.

Ofcom powiedział platformom, żeby nie czekały

Wielka Brytania ma ustawę Online Safety Act mającą zwalczać mowę nienawiści, ale w czasie zamieszek nie była jeszcze w mocy i, jak zauważyło CNBC, może nie wystarczyć przed niektórymi formami dezinformacji. Regulator mediów Ofcom wysłał list do platform społecznościowych, mówiąc, że nie powinny czekać na wejście w życie nowego prawa, a brytyjski rząd również stwierdził, że firmy społecznościowe powinny działać.

Raport komisji idzie dalej niż zachęta regulatora. Posłowie argumentowali, że platformy muszą odpowiadać za algorytmiczne rozprzestrzenianie wprowadzających w błąd lub zwodniczych treści, które mogą radykalizować i krzywdzić użytkowników, a Online Safety Act tego nie obejmuje. „Jest rzeczą niezbędną, abyśmy regulowali i uchwalali prawo dla tych technologii w oparciu o zasady zawarte w tym raporcie, wykorzystując świat cyfrowy w sposób, który chroni i wzmacnia obywateli”, głosi raport. Podczas przesłuchań poprzedzających raport komisja usłyszała różne interpretacje brytyjskiego prawa. Widać w nich brak jasności ze strony Ofcomu i służby cywilnej co do tego, czy Online Safety Act w ogóle obejmuje dezinformację.

Sprawa Southport nie jest jedynym przykładem dezinformacji tworzonej dla pieniędzy, a nie z przekonania. Śledztwo BuzzFeed News, prowadzone we współpracy z The Reporter na Tajwanie, wykazało, że od 2011 roku co najmniej 27 operacji informacyjnych w internecie przypisano częściowo lub w całości firmom PR lub marketingowym, 19 z nich tylko w 2019 roku. Opisano światowy przemysł firm „czarnego PR” gotowych wdrażać fałszywe konta, fałszywe narracje i pseudo serwisy informacyjne dla klientów.

Jedna z nich, izraelska firma Archimedes Group, stworzyła sieci setek stron, kont i grup na Facebooku na całym świecie i chwaliła się na swojej stronie internetowej, że „użyje każdego narzędzia i wykorzysta każdą dostępną przewagę, aby zmienić rzeczywistość zgodnie z życzeniami klienta”. Na potrzeby wyborów w Mali prowadziła fałszywą stronę fact-checkingową, która podawała się za prowadzoną przez lokalnych studentów. W Tunezji prowadziła stronę zatytułowaną „Stop a la Desinformation et aux Mensonges”. W Nigerii prowadziła strony popierające i zwalczające tego samego polityka, byłego wiceprezydenta Atiku Abubakara. Badacze postawili hipotezę, że strona proabubakarowa „została prawdopodobnie zaprojektowana, aby zidentyfikować jego zwolenników i później dotrzeć do nich treściami antyabubakarowymi”.

Nathaniel Gleicher, ówczesny szef polityki cyberbezpieczeństwa Facebooka, powiedział BuzzFeed News, że „profesjonalizacja oszustwa” to rosnące zagrożenie. „Powstają firmy, które w zasadzie budują swój model biznesowy wokół oszustwa”, powiedział. Cindy Otis, była oficer CIA i autorka True or False: A CIA Analyst's Guide to Spotting Fake News, powiedziała, że operacje informacyjne państw takich jak Rosja i Iran dostarczyły „podręcznika dla osób i grup, które kierują się motywacją finansową, by wejść w tę przestrzeń”.

W Wielkiej Brytanii natychmiastowe pytanie brzmi, czy prawo obejmuje ten rodzaj treści, który poprzedzał zamieszki. Odpowiedź komisji jest w istocie taka, że nie. Fałszywe nazwisko było legalną mową, promowaną przez systemy rekomendacji i widzianą 420 000 razy. Obowiązki Online Safety Act dotyczące nielegalnych treści, w mocy od marca, do niego nie sięgają. To luka, którą posłowie chcą zamknąć.