Come funzionano le reti di disinformazione online, dalle rivolte di Southport alle agenzie di black PR

Il 29 luglio 2024 tre bambine sono state uccise a un corso di danza a Southport, nel nordovest dell'Inghilterra. Poche ore dopo, sui social circolavano affermazioni false sul nome, la religione e lo status migratorio dell'attentatore. Entro le 15 del giorno successivo, un nome falso aveva più di 30.000 menzioni sulla sola X, secondo Hannah Rose dell'Institute for Strategic Dialogue, citata da CNBC.

È l'anatomia di una rete di disinformazione moderna: un evento reale, una narrazione rapida e falsa, l'amplificazione algoritmica, le conseguenze fuori dallo schermo. La polizia ha smentito le affermazioni il giorno dopo, dicendo che il sospetto era nato in Gran Bretagna. A quel punto la narrazione aveva già preso piede.

Che cos'è davvero una rete di disinformazione

Il termine copre cose molto diverse. Da un lato ci sono account vagamente collegati tra loro che si accaniscono su una notizia dell'ultima ora. Dall'altro ci sono operazioni commerciali che vendono la manipolazione come servizio, spesso chiamate black PR.

BuzzFeed News ha esaminato le rimozioni delle piattaforme e le indagini delle società di sicurezza. Dal 2011 almeno 27 operazioni informative online sono state attribuite in parte o del tutto ad agenzie di PR o di marketing. Diciannove si sono verificate nel solo 2019. L'inchiesta è stata realizzata in collaborazione con il Reporter, sito di giornalismo investigativo con sede a Taiwan.

Nathaniel Gleicher, responsabile della politica di cybersicurezza di Facebook, ha detto a BuzzFeed News che "la professionalizzazione dell'inganno" è una minaccia in crescita. "La nozione più ampia di inganno e operazioni di influenza esiste da tempo, ma negli ultimi anni abbiamo visto [...] crescere aziende che costruiscono il proprio modello di business attorno all'inganno", ha detto.

Un esempio: l'Archimedes Group, azienda israeliana che ha costruito reti di centinaia di pagine, account e gruppi Facebook. Il suo sito prometteva di "usare ogni strumento e sfruttare ogni vantaggio disponibile per cambiare la realtà secondo i desideri del nostro cliente". In Mali gestiva una finta pagina di fact-checking che dichiarava di essere curata da studenti locali. In Tunisia gestiva una pagina intitolata "Stop a la Desinformation et aux Mensonges". In Nigeria gestiva pagine sia a favore sia contro lo stesso politico, l'ex vicepresidente Atiku Abubakar.

La catena di montaggio: raccogliere, riscrivere, pubblicare, amplificare

Peng Kuan Chin, 32 anni, di Taichung, Taiwan, ha mostrato al Reporter come funzionava il suo sistema. I server scandagliavano il web in cerca di articoli e post in cinese, riorganizzavano parole e frasi in un testo nuovo, poi pubblicavano il risultato su una serie di siti che controllava. Migliaia di account falsi sui social media lo spingevano nei feed, nelle app di messaggistica e nei risultati di ricerca.

"Ho sviluppato questo sistema per manipolare l'opinione pubblica", ha detto Peng al Reporter. L'automazione e l'intelligenza artificiale "possono generare traffico e pubblicità molto più velocemente delle persone".

I suoi clienti erano aziende, marchi, partiti e candidati politici in Asia. "I clienti hanno i soldi, e a me non importa cosa comprano", ha detto.

Non tutte le operazioni si basano su software su misura. In Ucraina, l'agenzia di PR Pragmatico impiegava decine di giovani esperti di tecnologia per pubblicare commenti positivi su account Facebook falsi riguardo ai clienti. In Polonia, Cat@Net gestiva reti di account Twitter falsi azionati da dipendenti con disabilità che lavoravano da casa. L'agenzia li assumeva perché poteva pagarli sotto il prezzo di mercato mentre ricevevano sussidi statali. Un'inchiesta di Investigate Europe ha anche rilevato che Cat@Net ha svolto lavoro per Art-Media, una delle più note agenzie di PR polacche. Art-Media ha negato di aver lavorato con Cat@Net.

Cindy Otis, ex ufficiale della CIA e autrice di True or False: A CIA Analyst's Guide to Spotting Fake News, ha detto a BuzzFeed News che le operazioni informative di stati come Russia e Iran hanno fornito "un manuale per individui e gruppi motivati da ragioni economiche" che vogliono entrare in questo campo.

Come si è diffusa la narrazione di Southport

Il caso di Southport non aveva bisogno di un appaltatore pagato. Aveva bisogno di una piattaforma, di un pubblico e di una storia che corrispondesse a ciò che parte di quel pubblico credeva già.

Joe Ondrak, responsabile ricerca e tecnologia per il Regno Unito di Logically, ha detto a CNBC che le affermazioni false erano "una ghiottoneria" per i gruppi anti-immigrazione. "È davvero la cosa esatta da dire per provocare una reazione molto più rabbiosa di quella che ci sarebbe stata probabilmente se la disinformazione non fosse circolata", ha detto.

Ondrak ha aggiunto che i resoconti hanno agito come "un modo per razionalizzare e rafforzare pregiudizi e preconcetti già esistenti prima che qualsiasi verità accertata potesse emergere".

L'amplificazione ha fatto gran parte del lavoro. Rose ha detto che account con centinaia di migliaia di follower e spunte blu pagate hanno condiviso le informazioni false, che poi gli algoritmi delle piattaforme hanno spinto verso altri utenti. "Per esempio, quando cercavi 'Southport' su TikTok, nella sezione 'Others Searched For', che consiglia contenuti simili, il nome falso dell'attentatore veniva promosso dalla piattaforma stessa, anche 8 ore dopo che la polizia aveva confermato che l'informazione era errata", ha detto.

L'analisi dell'ISD ha rilevato che gli algoritmi funzionavano in modo simile su X, dove il nome errato compariva come argomento di tendenza. Le affermazioni false hanno raggiunto anche Telegram, che secondo Ondrak consolida le narrazioni ed espone più persone a "convinzioni più estreme". Telegram ha detto a CNBC che non stava aiutando la diffusione della disinformazione, affermando che i moderatori monitoravano la situazione e rimuovevano canali e post che invitavano alla violenza.

I numeri sono diventati enormi. Un rapporto del luglio 2025 della Commissione Scienza, Innovazione e Tecnologia della Camera dei Comuni ha detto che tra il 29 luglio e il 9 agosto 2024 le affermazioni false o infondate sull'attentatore di Southport hanno ottenuto 155 milioni di impression su X. Sui social media, il nome falso è stato visto 420.000 volte, con una potenziale copertura di 1,7 miliardi di persone, secondo il rapporto. È stato promosso direttamente da strumenti algoritmici, comparendo nella funzione "Trending in the UK" di X e in "Others searched for" di TikTok.

Quando la rete esce dallo schermo

Gruppi di estrema destra hanno organizzato proteste anti-immigrati e anti-islamiche, tra cui una manifestazione alla veglia prevista per le bambine uccise. Il disordine è degenerato in giorni di rivolte. Moschee, centri per l'immigrazione e hotel che ospitavano richiedenti asilo sono stati attaccati.

Almeno alcuni degli account che invitavano a partecipare alle proteste erano riconducibili all'estrema destra, secondo un'analisi di Logically, compresi alcuni legati a National Action, gruppo estremista di destra vietato e dichiarato organizzazione terroristica nel 2016 ai sensi del Terrorism Act britannico. Ondrak ha anche notato che molti gruppi che in precedenza avevano diffuso informazioni false sull'attacco avevano iniziato a fare marcia indietro, dicendo che era una bufala.

Il proprietario di X, Elon Musk, è intervenuto durante le rivolte con commenti controversi sulle manifestazioni violente. Il ministro britannico della Giustizia gli ha chiesto di "comportarsi in modo responsabile". TikTok e X non hanno risposto immediatamente alla richiesta di commento di CNBC.

Il mercoledì successivo al culmine della violenza, migliaia di manifestanti antirazzisti si sono radunati in città e paesi di tutto il Regno Unito, superando di gran lunga le recenti proteste anti-immigrati.

Il problema del libro delle regole

La Gran Bretagna ha un Online Safety Act, ma la sua capacità di coprire questo tipo di contenuti è contestata. La legge ha ricevuto l'assenso reale nell'ottobre 2023. Gli elementi che obbligano le aziende dei social media a proteggere gli utenti da contenuti illegali sono entrati in vigore il 17 marzo 2025.

In un'audizione del 29 aprile della Commissione Scienza, Innovazione e Tecnologia, la baronessa Jones di Whitchurch, ministro del DSIT e del Dipartimento per le imprese e il commercio, ha detto che la misinformazione e la disinformazione erano coperte dalla legge. Mark Bunting, direttore per l'attuazione della strategia di sicurezza online presso Ofcom, ha detto che il governo precedente aveva rimosso dall'ambito della legge i materiali legali che potrebbero essere dannosi per gli adulti, comprese alcune forme di misinformazione. Ha aggiunto che c'era "una piccola avvertenza": la legge ha introdotto il reato di comunicazioni false con l'intento di causare danno, quando le aziende hanno motivi ragionevoli per dedurre l'intento.

La presidente della commissione Chi Onwurah ha fatto notare che l'intento è molto difficile da provare. Ha detto che non esistono obblighi per Ofcom di agire sulla misinformazione, anche se i codici ne parlano. "Questo sembra essere un problema chiave", ha detto.

Talitha Rowland, direttrice per la sicurezza e i danni online al DSIT, ha detto alla commissione che "misinformazione e disinformazione non sono una cosa sola". Possono essere illegali, interferenza straniera, contenuti che incitano all'odio o alla violenza, oppure contenuti sotto la soglia di illegalità ma comunque dannosi per i minori.

A luglio, il rapporto della commissione è stato più diretto. Ha detto che la legge non affronta l'amplificazione algoritmica dei "contenuti legali ma dannosi", lasciando il pubblico vulnerabile a una ripetizione dell'estate precedente. "È chiaro che l'Online Safety Act non è all'altezza", ha detto Onwurah. La commissione ha esortato il governo ad adottare cinque principi per la regolamentazione futura, dalla protezione della libertà di espressione alla responsabilità delle piattaforme per i contenuti che mettono online.

Un'ultima complicazione: gli strumenti usati per diffondere questo materiale stanno cambiando. Grokipedia, lanciata da Musk nell'ottobre 2025, usa l'IA per raccogliere e trasformare contenuti con scarso controllo umano, ha scritto Andrew Orlowski su UnHerd. Le prime segnalazioni sulla versione 0.1 hanno notato falsità generate dall'IA e passaggi denigratori aggiunti "in nome dell'accuratezza". Orlowski sostiene che i grandi modelli linguistici "sono motori statistici di completamento di parole che allucinano, e queste allucinazioni sono endemiche".