Come funzionano le reti di disinformazione online: quattro casi, un unico manuale

Il video mostrava un ragazzo in maglietta nera che giaceva apparentemente in una pozza di sangue. Sopra di lui una telecamera e un uomo che gridava indicazioni. Intorno, uomini con kippah e altri in divise verdi simili a quelle delle IDF. Condiviso su X da un utente verificato con la didascalia "Video che mostra Israele che cerca di creare riprese false di morti", ha raggiunto circa 2m visualizzazioni, secondo il Guardian. Il clip era una ripresa dietro le quinte dal cortometraggio palestinese Empty Place. Sembra che sia originato su TikTok prima di spostarsi su X. L'utente dietro il post ha poi riconosciuto che il clip potrebbe essere stato usato fuori contesto.

Questo singolo caso, riportato dal Guardian nell'ottobre 2023, è un campione utile perché ogni sua fase è documentata.

Le reti di disinformazione non sono una cosa sola. Sono un insieme di meccaniche ripetibili: trovare materiale grezzo che può essere ricontestualizzato, spingerlo attraverso account con portata, lasciare che il ranking della piattaforma faccia la distribuzione e affidarsi al fatto che le correzioni arrivano in ritardo e viaggiano male. La dossier dietro questa analisi copre quattro operazioni distinte, in quattro paesi, con quattro diversi set di motivazioni. Le meccaniche si sovrappongono più della politica.

Immagini riciclate, etichettate di nuovo

Un altro video, anch'esso originato su TikTok e ora non disponibile lì, affermava di mostrare generali israeliani di alto rango catturati da Hamas. Ha accumulato 2m visualizzazioni su X. Era stato originariamente pubblicato dal canale YouTube ufficiale del servizio di sicurezza statale dell'Azerbaijan e mostrava ex leader arrestati del governo separatista del Nagorno-Karabakh. Un documento falsificato che suggeriva che Joe Biden avesse dato 8bn di aiuti a Israele è stato visualizzato 400.000 volte su X. Era una versione editata della nota di luglio di Biden che annunciava 400m di aiuti all'Ucraina. Non c'è un tale documento sul sito web della Casa Bianca o sui social media. La Casa Bianca ha confermato a NBC che il documento era falso.

Nessuno di questi richiedeva sofisticazione tecnica. Richiedevano un pubblico predisposto a credere alla affermazione e una piattaforma che lo trasportasse.

La Russia è stata un colpevole di lunga data per la diffusione di disinformazione su X e sembra aver capitalizzato sul conflitto. Lunedì, l'ex presidente russo Dmitry Medvedev, vice presidente del Consiglio di Sicurezza russo, ha twittato: "Beh, amici della Nato, ci siete riusciti, vero? Le armi consegnate al regime nazista in Ucraina sono ora attivamente usate contro Israele." Un video che sembrava mostrare Hamas che ringrazia l'Ucraina per le vendite di armi è stato pubblicato da un account su X legato al gruppo mercenario Wagner, visualizzato più di 300.000 volte e amplificato da account di estrema destra USA. A febbraio, l'ispettore generale del Pentagono ha riportato che non vi sono finora prove di armi e aiuti all'Ucraina dirottati a terzi. L'intelligence ucraina questa settimana ha accusato la Russia di piazzare armi occidentali "trophie" sequestrate dai campi di battaglia ucraini con Hamas per minare il sostegno a Kyiv. Eliot Higgins di Bellingcat ha segnalato un video falso della BBC che affermava di mostrare un'indagine di Bellingcat sul contrabbando di armi ucraine a Hamas, spinto da utenti russi dei social media, anche se ha detto che non era chiaro se si trattasse di una campagna statale o di uno sforzo dal basso.

Quando la menzogna lascia lo schermo

Nel luglio 2024, tre giovani ragazze sono state uccise in un attacco con coltello a Southport, nel Regno Unito. Entro poche ore, false informazioni sul nome, la religione e lo status migratorio dell'attaccante hanno guadagnato molta trazione, scatenando giorni di violenti disordini in tutto il paese. Hannah Rose, analista di odio ed estremismo all'Institute for Strategic Dialogue, ha detto a CNBC che un post su X ha falsamente nominato il colpevole "Ali al-Shakati", presunto migrante di fede musulmana, e che entro le 15:00 del giorno successivo il falso nome aveva oltre 30.000 menzioni su X da solo.

Altre false affermazioni dicevano che l'attaccante era su una lista di sorveglianza dei servizi di intelligence, era arrivato nel Regno Unito su una piccola barca nel 2023 ed era noto ai servizi locali di salute mentale, secondo l'analisi di ISD. La polizia ha smentito le affermazioni il giorno dopo che sono emerse, dicendo che il sospettato era nato in Gran Bretagna. A quel punto la narrazione aveva già trazione.

Joe Ondrak, responsabile della ricerca e della tecnologia per il Regno Unito presso Logically, ha detto a CNBC che i falsi rapporti agivano come "un modo per razionalizzare e rafforzare pregiudizi e bias preesistenti e speculazioni prima che qualsiasi tipo di verità stabilita potesse uscire." Ha descritto il materiale come "erbamazzante" per i gruppi anti-migrazione: "È davvero la cosa esatta da dire per provocare una reazione molto più arrabbiata di quella che probabilmente ci sarebbe stata se la disinformazione non fosse stata circolata."

Il lato della distribuzione conta quanto l'affermazione. Rose ha detto che account con centinaia di migliaia di follower, e le tacche blu a pagamento su X, hanno condiviso le false informazioni, che gli algoritmi della piattaforma hanno poi spinto ad altri utenti. Quando gli utenti cercavano "Southport" su TikTok, il falso nome dell'attaccante era promosso dalla piattaforma stessa nella sezione "Altri hanno cercato", incluso otto ore dopo che la polizia aveva confermato che le informazioni erano errate. ISD ha trovato un comportamento algoritmico simile su X, dove il nome errato andava di moda. Le affermazioni hanno anche raggiunto Telegram, che Ondrak ha detto consolida le narrazioni e espone più persone a "credenze più radicali." Telegram ha negato di aver aiutato a diffondere disinformazione, dicendo che i moderatori monitoravano la situazione e rimuovevano canali e post che chiamavano alla violenza, che non sono permessi secondo i suoi termini di servizio. Alcuni account che chiamavano alla partecipazione a proteste risalgivano all'estrema destra, secondo Logically, incluso alcuni collegati al gruppo vietato National Action, nominato organizzazione terroristica nel 2016 sotto la Terrorism Act del Regno Unito.

La più grande operazione nota

La scala cambia il quadro. Una rassegna di CNN di documenti giudiziari e divulgazioni pubbliche da parte delle aziende di social media ha scoperto che il governo cinese ha costruito la più grande operazione nota di disinformazione online al mondo e la sta usando per molestare residenti, politici e aziende USA, a volte minacciando i bersagli con la violenza. La rete, nota come "Spamouflage" o "Dragonbridge", gestisce centinaia di migliaia di account su tutte le principali piattaforme di social media. Il Dipartimento di Stato USA descrive le tattiche come parte di uno sforzo più ampio di miliardi di dollari per plasmare l'ambiente informativo mondiale e silenziare i critici di Pechino, uno sforzo che, secondo quanto affermato, si è espanso sotto il presidente Xi Jinping.

Le vittime hanno descritto una raffica di decine di migliaia di post che le chiamavano traditori, cani e insulti razzisti e omofobi. Alcuni hanno parlato con le forze dell'ordine, incluso l'FBI, ma poco è stato fatto, ha riportato CNN. Le piattaforme hanno chiuso migliaia di account che prendevano di mira queste vittime ma sono superate da nuovi che appaiono ogni giorno. Meta ha detto ad agosto di aver rimosso un cluster di quasi 8.000 account attribuiti al gruppo nel secondo trimestre del 2023 da solo. Google ha detto a CNN di aver chiuso più di 100.000 account associati negli ultimi anni. X ha bloccato centinaia di migliaia di account cinesi "sponsorizzati dallo stato" o "legati allo stato", secondo blog aziendali.

Ricercatori privati hanno tracciato la rete fin dalla sua scoperta più di quattro anni fa. Solo negli ultimi mesi, i procuratori federali e Meta hanno concluso pubblicamente che l'operazione ha legami con la polizia cinese. Il rappresentante Mike Gallagher, presidente della Commissione Select della Camera sul CCP, ha detto a CNN: "Potremmo pensare che questo sia confinato a determinate chatroom, o a questa piattaforma o a quella, ma si sta espandendo in tutto. E non è che una questione di tempo prima che accada a quel cittadino americano medio che non pensa che sia il suo problema in questo momento."

Chen Pokong, un attivista con sede a New York, ha visto troll interrompere un evento Zoom anti-comunismo che ha organizzato nel gennaio 2021. Hanno deriso i partecipanti e minacciato che una vittima sarebbe morta "miseramente." I suoi sospetti su chi fosse dietro sono diventati solidi quando il Dipartimento di Giustizia ha incriminato più di 30 funzionari cinesi all'inizio di quest'anno per una vasta operazione di disinformazione che prendeva di mira dissidenti negli USA, incluse persone in quella riunione Zoom.

Cosa dicono i pubblici

La preoccupazione pubblica non è marginale. Un sondaggio Ipsos commissionato da Unesco su 8.000 persone in 16 paesi che dovevano tenere elezioni nazionali, con un totale di 2.500.000.000 di elettori, ha trovato che l'85% era preoccupato per l'influenza della disinformazione online e l'87% ha detto che aveva già avuto un impatto maggiore sulla vita politica nazionale. Il 56% degli utenti di internet otteneva le notizie principalmente dai social media, più che dalla TV (44%) o dai siti dei media (29%). La fiducia nei social media era al 50%, contro il 66% per la televisione, il 63% per la radio e il 57% per i siti web e le app dei media. In tutti i 16 paesi, il 68% ha detto che i social media erano il luogo dove le notizie false erano più diffuse, davanti alle app di messaggistica al 38%.

Audrey Azoulay, direttrice generale di Unesco, ha detto ai giornalisti che le informazioni false e l'odio online, accelerate e amplificate dalle piattaforme, ponevano "rischi maggiori per la coesione sociale, la pace e la stabilità." La regolamentazione era urgentemente necessaria, ha detto, "per proteggere l'accesso alle informazioni... proteggendo al contempo la libertà di espressione e i diritti umani." La blueprint di Unesco si basa su sette principi, tratti da ciò che chiama una consultazione senza precedenti di oltre 10.000 contributi da 134 paesi in 18 mesi. Guilherme Canela de Souza Godoi, capo sezione di Unesco per la libertà di espressione, ha detto che più di 50 paesi regolano già i social media, spesso non in linea con le norme internazionali sulla libertà di parola e i diritti umani. Unesco prevede una Conferenza Mondiale dei Regolatori nel 2024.

La regolamentazione ha il suo argomento. Il senatore Sheldon Whitehouse ha chiesto di abrogare la Sezione 230 del Communications Decency Act e sostituirla con una versione più stretta che costringerebbe alla "divulgazione dei finanziatori della disinformazione", secondo Reclaim The Net. Whitehouse sostiene che il rischio di responsabilità potrebbe spingere le aziende ad agire contro la disinformazione anche a costo dell'engagement. I critici controbattono che la maggior parte della disinformazione finirebbe come parola protetta.

Nessuno di questi dibattiti cambia l'aritmetica operativa. Il reporting del Guardian su X nota che Musk ha sciolto il Trust and Safety Council della piattaforma dopo la sua acquisizione nel 2022; l'azienda ha detto di aver pianificato di riorganizzare il team, ma i piani restano chiari. X ha introdotto Community Notes, un programma di moderazione crowdsourced che mette gran parte dell'onere sugli utenti piuttosto che sui moderatori assunti. The Union of Concerned Scientists, citando il Center for Countering Digital Hate, ha riportato che X "continua ad ospitare quasi l'86% di un set di 300 post odiosi dopo una settimana dalla nostra segnalazione." La ricercatrice Abbie Richards ha trovato che i tweet negazionisti del clima sono aumentati da una media di 30.000 a settimana tra dicembre 2021 e luglio 2022 a quasi 110.000 a settimana dopo luglio 2022.

Il modello attraverso tutti e quattro i casi è lo stesso. Un'affermazione è prodotta o riciclata, seminata attraverso account con portata, classificata verso l'alto da sistemi tarati per l'engagement e corretta dopo il danno. La correzione, come ha mostrato il caso di Southport, può arrivare entro un giorno. Il disordine è comunque accaduto.