Dentro le reti di disinformazione: da Southport a Spamouflage
Un clip dal dietro le quinte di un cortometraggio palestinese, ripubblicato come prova che Israele mette in scena le vittime, ha totalizzato circa due milioni di visualizzazioni su X nei giorni successivi all'attacco di Hamas del 7 ottobre. È stato uno dei primi falsi virali di una guerra che ne avrebbe prodotti altri, e ha fissato il modello di come funzionano oggi le reti di disinformazione online.

La clip mostrava un ragazzo in maglietta nera disteso in una pozza di sangue, una telecamera sopra di lui, un uomo che gridava indicazioni. Intorno stavano uomini con la kippah e uomini in uniformi verdi simili a quelle dell'IDF. Un utente verificato di X l'ha condivisa con la didascalia: "Video che mostra Israele mentre tenta di creare filmati falsi di morti". Il Guardian ha identificato il materiale come una ripresa dal dietro le quinte di Empty Place, un cortometraggio palestinese sul vuoto lasciato dai palestinesi fuggiti dall'occupazione israeliana. Era partito da TikTok ed era arrivato su X. Il post originale su TikTok non è più disponibile, ma la versione riadattata ha continuato a circolare e a raccogliere visualizzazioni. L'utente dietro il post da due milioni di visualizzazioni ha poi ammesso che la clip poteva essere stata usata fuori contesto.
La vicenda conta meno per quello che dice di un singolo video che per quello che dice della filiera. Un materiale autentico, privato del contesto, diventa la prova di una tesi che non era mai stato pensato per sostenere. La correzione, se arriva, arriva tardi e viaggia male.
Reti, non singoli utenti
Nei giorni successivi all'attacco del 7 ottobre, X si è riempita di materiale simile. Un secondo video, anch'esso da TikTok e ormai non più disponibile lì, ha accumulato due milioni di visualizzazioni su X sostenendo di mostrare generali israeliani di alto rango catturati dai combattenti di Hamas. In realtà, secondo il Guardian, il servizio di sicurezza dello Stato dell'Azerbaigian lo aveva pubblicato giorni prima sul proprio canale YouTube ufficiale. Mostrava ex leader arrestati del governo separatista del Nagorno-Karabakh. Un documento manomesso che suggeriva che Joe Biden avesse dato 8.000.000.000 di dollari di aiuti a Israele è stato visto 400.000 volte su X. Era una versione modificata del suo memorandum di luglio che annunciava 400.000.000 di dollari di aiuti all'Ucraina. La Casa Bianca ha confermato a NBC che il documento era falso. Il filo comune non è una singola ideologia ma un metodo: prendere materiale reale, rietichettarlo e lasciare che la distribuzione della piattaforma faccia il resto.
La Russia diffonde disinformazione su X da tempo e sembra aver sfruttato il conflitto israelo-palestinese, ha riferito il Guardian. Il lunedì dopo l'attacco, l'ex presidente russo Dmitry Medvedev, vicepresidente del Consiglio di sicurezza russo, ha twittato: "Beh, amici della Nato, vi è andata proprio bene, eh? Le armi consegnate al regime nazista in Ucraina ora vengono usate attivamente contro Israele". Separatamente, un account X legato al gruppo mercenario Wagner ha pubblicato un video che mostrava apparentemente Hamas ringraziare l'Ucraina per le armi che intendeva usare contro Israele. Ha totalizzato più di 300.000 visualizzazioni e account dell'estrema destra statunitense lo hanno amplificato.
La parte ucraina ha respinto le accuse. L'intelligence ucraina ha accusato la Russia di aver piazzato armi occidentali "trofeo" sequestrate sui campi di battaglia in Ucraina insieme a Hamas per minare il sostegno a Kyiv. A febbraio, l'ispettore generale del Pentagono aveva riferito che non c'erano prove, fino a quel momento, di armi e aiuti all'Ucraina dirottati verso terzi. Eliot Higgins, fondatore della testata investigativa Bellingcat, ha segnalato un video falso spacciato per un contenuto della BBC. Sosteneva di presentare un'inchiesta di Bellingcat sul contrabbando di armi ucraine verso Hamas. Higgins ha detto che erano utenti russi dei social media a spingerlo, ma ha aggiunto che non era chiaro se si trattasse di una campagna del governo russo o di uno sforzo dal basso. Quella precisazione va tenuta. L'attribuzione è la parte più difficile di questo lavoro, e le affermazioni più rumorose spesso arrivano con le prove più fragili.
Quando il nome falso diventa un argomento di tendenza
Le rivolte britanniche dell'agosto 2024 hanno mostrato cosa succede quando una rete trova una storia che si adatta a un risentimento già esistente. Dopo che tre bambine sono state uccise in un attacco con coltello a Southport a luglio, informazioni false sul nome, la religione e lo status migratorio dell'aggressore sono comparse nel giro di poche ore. "Citando un post su LinkedIn, un post su X ha indicato falsamente l'autore come 'Ali al-Shakati', secondo le voci un migrante di fede musulmana. Entro le 15 del giorno successivo, il nome falso aveva oltre 30.000 menzioni solo su X", ha detto Hannah Rose, analista di odio ed estremismo all'Institute for Strategic Dialogue, a CNBC via email. Altri post sostenevano che l'aggressore fosse su una lista di sorveglianza dei servizi segreti, fosse arrivato su un piccolo barcone nel 2023 e fosse noto ai servizi locali di salute mentale, secondo l'analisi dell'ISD. La polizia ha smentito le affermazioni il giorno dopo che erano emerse, dicendo che il sospetto era nato in Gran Bretagna. A quel punto la narrazione aveva già preso piede.
Gruppi di estrema destra hanno organizzato proteste anti-migranti e anti-islamiche, tra cui una manifestazione alla veglia prevista per le bambine. Le dimostrazioni sono degenerate in giorni di rivolte, con attacchi a moschee, centri per l'immigrazione e hotel che ospitavano richiedenti asilo. Joe Ondrak, responsabile ricerca e tecnologia per il Regno Unito dell'azienda tech Logically, ha detto a CNBC che le affermazioni false erano "erba gatta" per gruppi già pronti a reagire. "Non è che questa affermazione falsa esce e poi, sapete, tutti ci credono", ha detto. I resoconti invece hanno agito come "un modo per razionalizzare e rafforzare pregiudizi e preconcetti già esistenti e speculazioni prima che qualsiasi verità accertata potesse emergere".
L'algoritmo non si è limitato a non fermarlo. In almeno un caso, lo ha consigliato.
I meccanismi delle piattaforme hanno amplificato la menzogna in modi facili da perdere se si guarda solo a chi l'ha pubblicata. Rose ha detto a CNBC che account con centinaia di migliaia di follower e spunte blu a pagamento hanno condiviso le informazioni false, che gli algoritmi poi hanno spinto. Su TikTok, quando gli utenti cercavano "Southport", la sezione "Altri hanno cercato", che raccomanda contenuti simili, promuoveva il nome falso dell'aggressore. Comprese otto ore dopo che la polizia aveva confermato che era sbagliato. L'analisi dell'ISD ha trovato un comportamento simile su X, dove il nome errato compariva come argomento di tendenza. Le affermazioni false sono poi passate su Telegram, che Ondrak ha descritto come un luogo che consolida le narrazioni ed espone più persone a "convinzioni più estremiste", compresi canali nati come anti-vaccinisti e poi cooptati da figure dell'estrema destra. Telegram ha detto a CNBC di negare di aver aiutato a diffondere disinformazione, affermando che i suoi moderatori monitoravano la situazione e rimuovevano canali e post che invitavano alla violenza.
Alcuni account che invitavano a partecipare alle proteste potevano essere ricondotti all'estrema destra, secondo l'analisi di Logically. Alcuni erano legati al gruppo vietato National Action, dichiarato organizzazione terroristica nel 2016 ai sensi del Terrorism Act britannico. L'Online Safety Act britannico doveva affrontare il discorso d'odio, ma è entrato in vigore solo all'inizio dell'anno successivo e potrebbe non bastare per alcune forme di disinformazione. Il mercoledì dopo il peggio delle rivolte, l'autorità di regolamentazione dei media Ofcom ha scritto alle piattaforme social dicendo che non dovevano aspettare l'entrata in vigore della nuova legge. A quel punto, migliaia di manifestanti anti-razzisti si erano radunati in città e paesi di tutto il Regno Unito, superando per numero le manifestazioni anti-immigrati.
La più grande operazione conosciuta
Non tutte le reti sono improvvisate intorno a una notizia dell'ultima ora. La CNN ha riferito nel novembre 2023 che il governo cinese aveva costruito la più grande operazione di disinformazione online conosciuta al mondo. La stava usando per molestare residenti statunitensi, politici e imprese, a volte minacciando di violenza gli obiettivi. Il resoconto si basava su una revisione di documenti giudiziari e comunicazioni pubbliche delle aziende dei social media. Le vittime hanno descritto una raffica di decine di migliaia di post sui social media che le chiamavano traditrici, cani e con insulti razzisti e omofobi. Alcune avevano parlato con le forze dell'ordine, compreso l'FBI, con scarsi risultati. Le aziende tech e dei social media avevano chiuso migliaia di account, ma ne comparivano di nuovi praticamente ogni giorno.
La rete è tracciata con nomi tra cui "Spamouflage" e "Dragonbridge". Le sue centinaia di migliaia di account si distribuiscono su ogni grande piattaforma social. Molestano americani che criticano il Partito Comunista Cinese, cercano di screditare politici statunitensi, denigrano aziende americane in contrasto con gli interessi della Cina e dirottano conversazioni online che potrebbero ritrarre negativamente il PCC. Ricercatori privati la seguono dalla sua scoperta, più di quattro anni fa. Solo negli ultimi mesi i procuratori federali e Meta hanno concluso pubblicamente che l'operazione aveva legami con la polizia cinese. Meta ha detto in agosto di aver rimosso un gruppo di quasi 8.000 account attribuiti all'organizzazione solo nel secondo trimestre del 2023. Google, che possiede YouTube, ha detto alla CNN di aver chiuso più di 100.000 account associati negli ultimi anni. X ha bloccato centinaia di migliaia di account cinesi "sostenuti dallo Stato" o "legati allo Stato", secondo i blog dell'azienda.
La scala è il punto. I bassi costi operativi significano che le reti possono assorbire le rimozioni e ricostruirsi. "Potremmo pensare che questo sia confinato a certe chat o a questa o quella piattaforma, ma si sta espandendo ovunque", ha detto alla CNN il deputato Mike Gallagher, presidente della Commissione ristretta della Camera sul PCC. "Ed è solo questione di tempo prima che accada a quel cittadino americano medio che ora non pensa che sia un suo problema". Il Dipartimento di Stato americano ha descritto le tattiche come parte di uno sforzo più ampio da miliardi di dollari per plasmare l'ambiente informativo mondiale e mettere a tacere i critici di Pechino. Dice che quello sforzo si è ampliato sotto il presidente Xi Jinping.
Cosa dice il pubblico di volere
La preoccupazione pubblica non è una posizione di nicchia. Un sondaggio Ipsos commissionato dall'Unesco su 8.000 persone in 16 paesi che nel 2024 dovevano tenere elezioni nazionali, per un totale di 2.500.000.000 di elettori, ha rilevato che l'85% era preoccupato per l'influenza della disinformazione online. Il 87% ha detto che aveva avuto un impatto importante sulla vita politica nazionale. I social media erano la principale fonte di notizie per il 56% degli utenti di internet, davanti alla televisione al 44% e ai siti di informazione al 29%, anche se la fiducia era inferiore: 50% contro il 66% della televisione, il 63% della radio e il 57% dei siti e delle app di informazione. In tutti i 16 paesi, il 68% ha detto che i social media erano il luogo in cui le fake news erano più diffuse, davanti alle app di messaggistica al 38%.
Audrey Azoulay, direttrice generale dell'Unesco, ha detto ai giornalisti che le informazioni false e il discorso d'odio online, accelerati e amplificati dalle piattaforme, rappresentavano "rischi importanti per la coesione sociale, la pace e la stabilità". Serve urgentemente una regolamentazione "per proteggere l'accesso all'informazione ... e allo stesso tempo proteggere la libertà di espressione e i diritti umani", ha detto, presentando un progetto di governance. L'Unesco ha detto che più di 50 paesi regolamentavano già i social media, ma spesso non in linea con le norme internazionali sulla libertà di espressione e sui diritti umani. Ha detto che almeno una grande piattaforma aveva riferito all'organismo di 194 membri che avrebbe preferito un quadro globale coerente a un mosaico di sistemi nazionali. L'organizzazione prevede una Conferenza mondiale dei regolatori nel 2024.
La battaglia politica non è chiusa, e in parte va contro il modello di business delle stesse piattaforme. Il senatore Sheldon Whitehouse ha sostenuto l'abrogazione della Sezione 230 del Communications Decency Act. La sostituirebbe con una versione più ristretta che obbligherebbe alla "divulgazione dei finanziatori della disinformazione". Ha scritto che la minaccia di responsabilità legale "potrebbe rendere Facebook e altre aziende più propense ad adottare misure che fermino la diffusione della disinformazione anche se riducono il coinvolgimento degli utenti, dato che non agire comporterebbe i propri rischi finanziari". I critici di questo approccio sostengono che molta disinformazione finirebbe per essere protetta dal Primo Emendamento. Entrambe le parti discutono della stessa cosa: chi paga il conto quando una menzogna viaggia più veloce della correzione.
Ciò che i casi hanno in comune è una divisione del lavoro. Qualcuno produce l'affermazione falsa, spesso riadattando materiale reale. Qualcuno con portata la pubblica. Gli algoritmi decidono fin dove arriva. I regolatori arrivano dopo, se arrivano. E le persone più esposte a essere prese di mira, dai residenti di Southport ai dissidenti cinesi negli Stati Uniti, sono quelle con meno potere su tutto questo.
Fonti
6- 01How Israel-Hamas war disinformation is being spread onlineEN
- 0285% of people worry about online disinformation, global survey findsEN
- 03Online disinformation sparked a wave of far-right violence in the UKEN
- 04China is using the world's largest online disinformation operation to harass Americans, a CNN review findsEN
- 05Senator Sheldon Whitehouse wants to repeal Section 230 to combat online "disinformation"EN
- 06For Online Disinformation and Hate, X Marks the SpotEN
Tutti i numeri e le citazioni di questo testo provengono dalle fonti elencate sotto.
I contenuti sono stati preparati dalla redazione con il supporto dell'IA.
Commenti
0- Nessun commento — sii il primo.