Vai al contenuto
Ora nel mondoEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portale su IA e tecnologiaeventi · analisi · interviste · approfondimenti tecnici

Cerca
LIVE
›

Come funzionano le reti di disinformazione online: quattro casi, un unico copione

Un video dal backstage di un cortometraggio palestinese è stato ricaricato con una nuova didascalia, spacciato per prova che Israele falsifica le vittime, e ha totalizzato circa due milioni di visualizzazioni su X. Era un solo nodo di un sistema industriale che fabbrica menzogne in fretta.

Media e internetAnalisiChiara RomanoPubblicato: 28 settembre 20269 min di letturaFonti 6
Come funzionano le reti di disinformazione online: quattro casi, un unico copione

Il video mostrava un ragazzo in maglietta nera disteso in una pozza di sangue. Una telecamera gli volteggiava sopra e un uomo gridava indicazioni. Intorno c'erano uomini con la kippah e altri in tuta verde simile a quella delle IDF. Un utente verificato lo ha condiviso su X con la didascalia "Video che mostra Israele mentre tenta di creare false riprese di morti". Secondo il Guardian ha raggiunto circa due milioni di visualizzazioni. La clip era una ripresa dal backstage del cortometraggio palestinese Empty Place. Sembra sia partita da TikTok prima di passare su X. L'autore del post ha poi ammesso che la clip poteva essere stata usata fuori contesto.

Il Guardian ha raccontato questo caso nell'ottobre 2023. È un esemplare utile perché ogni passaggio è documentato.

Le reti di disinformazione non sono una cosa sola. Sono un insieme di meccanismi ripetibili. Si trova materiale grezzo che si possa ricontestualizzare. Lo si fa passare attraverso account che hanno portata. Si lascia che sia il ranking della piattaforma a distribuirlo. Poi si conta sul fatto che le correzioni arrivano tardi e viaggiano male. L'analisi copre quattro operazioni distinte in quattro Paesi, con quattro insiemi diversi di motivazioni. I meccanismi si sovrappongono più della politica.

Filmato riciclato, etichetta cambiata

Un altro video, anch'esso da TikTok e ora non più disponibile lì, sosteneva di mostrare generali israeliani di alto profilo catturati da Hamas. Ha accumulato due milioni di visualizzazioni su X. Il servizio di sicurezza di Stato dell'Azerbaigian lo aveva pubblicato per primo sul proprio canale YouTube ufficiale. Mostrava ex leader arrestati del governo separatista del Nagorno-Karabakh. Un documento manipolato che suggeriva che Joe Biden avesse dato 8.000.000.000 di dollari di aiuti a Israele è stato visto 400.000 volte su X. Era una versione modificata del memorandum di luglio con cui Biden annunciava 400.000.000 di dollari di aiuti all'Ucraina. Quel documento non esiste sul sito della Casa Bianca né sui social. La Casa Bianca ha confermato a NBC che il documento era falso.

Nessuno di questi casi richiedeva competenze tecniche. Bastavano un pubblico preparato a credere all'affermazione e una piattaforma disposta a portarla.

La Russia diffonde da tempo disinformazione su X e sembra aver sfruttato il conflitto. Lunedì Dmitry Medvedev, ex presidente russo e vicepresidente del Consiglio di sicurezza russo, ha scritto su Twitter: "Beh, amici della Nato, ci siete cascati, vero? Le armi consegnate al regime nazista in Ucraina ora vengono usate attivamente contro Israele." Un account X legato al gruppo mercenario Wagner ha pubblicato un video che mostrava apparentemente Hamas mentre ringraziava l'Ucraina per la vendita di armi. È stato visto più di 300.000 volte e amplificato da account dell'estrema destra statunitense. A febbraio l'ispettorato generale del Pentagono ha riferito che fino a quel momento non c'erano prove di armi e aiuti all'Ucraina dirottati verso terzi. Questa settimana l'intelligence ucraina ha accusato la Russia di aver piazzato armi occidentali "trofeo" prese sui campi di battaglia ucraini accanto a Hamas, per minare il sostegno a Kyiv. Eliot Higgins di Bellingcat ha segnalato un falso video della BBC che sosteneva di mostrare un'inchiesta di Bellingcat sul contrabbando di armi ucraine verso Hamas. Gli utenti russi dei social lo hanno spinto. Higgins ha detto che non era chiaro se si trattasse di una campagna statale o di uno sforzo dal basso.

Quando la menzogna esce dallo schermo

Nel luglio 2024 tre ragazze sono state uccise in un attacco con coltello a Southport, nel Regno Unito. Nel giro di poche ore, informazioni false sul nome, la religione e lo status migratorio dell'aggressore hanno guadagnato una trazione significativa. Hanno scatenato giorni di rivolte violente in tutto il Paese. Hannah Rose, analista di odio ed estremismo all'Institute for Strategic Dialogue, ha detto a CNBC che un post su X indicava falsamente l'autore come "Ali al-Shakati", descritto come un migrante di fede musulmana. Alle 15 del giorno dopo il nome falso aveva più di 30.000 menzioni solo su X.

Altre affermazioni false dicevano che l'aggressore era su una lista di sorveglianza dei servizi segreti. Dicevano che era arrivato nel Regno Unito su un piccolo barcone nel 2023 ed era noto ai servizi locali di salute mentale, secondo l'analisi dell'ISD. La polizia ha smentito le affermazioni il giorno dopo che erano emerse, dicendo che il sospetto era nato in Gran Bretagna. A quel punto la narrazione aveva preso piede.

Joe Ondrak, responsabile ricerca e tecnologia per il Regno Unito di Logically, ha detto a CNBC che i rapporti falsi fungevano da "modo per razionalizzare e rafforzare pregiudizi e supposizioni già esistenti prima che qualsiasi verità accertata potesse emergere". Ha descritto il materiale come "erba gatta" per i gruppi anti-migrazione: "È davvero la cosa esatta da dire per provocare una reazione molto più rabbiosa di quella che ci sarebbe stata probabilmente se la disinformazione non fosse circolata."

Il lato della distribuzione conta quanto l'affermazione. Rose ha detto che account con centinaia di migliaia di follower hanno condiviso le informazioni false, insieme alle spunte blu a pagamento su X. Poi gli algoritmi della piattaforma le hanno spinte verso altri utenti. Quando gli utenti cercavano "Southport" su TikTok, la piattaforma stessa promuoveva il nome falso dell'aggressore nella sezione "Altri hanno cercato". Comprese otto ore dopo che la polizia aveva confermato che l'informazione era errata. L'ISD ha trovato un comportamento algoritmico simile su X, dove il nome errato è finito in tendenza. Le affermazioni hanno raggiunto anche Telegram. Ondrak ha detto che consolida le narrazioni ed espone più persone a "credenze più estremiste". Telegram ha negato di aver aiutato a diffondere disinformazione. Ha detto che i moderatori monitoravano la situazione e rimuovevano canali e post che invitavano alla violenza, non consentiti dai suoi termini di servizio. Alcuni account che invitavano a partecipare alle proteste risalivano all'estrema destra, secondo Logically. Tra questi alcuni legati al gruppo vietato National Action, dichiarato organizzazione terroristica nel 2016 ai sensi del Terrorism Act britannico.

L'operazione più grande conosciuta

La scala cambia il quadro. Un esame della CNN di documenti giudiziari e comunicazioni pubbliche delle aziende di social media ha rilevato che il governo cinese ha costruito la più grande operazione di disinformazione online conosciuta al mondo. La usa per molestare residenti statunitensi, politici e imprese, a volte minacciando di violenza gli obiettivi. La rete, nota come "Spamouflage" o "Dragonbridge", gestisce centinaia di migliaia di account su ogni grande piattaforma social. Il Dipartimento di Stato americano descrive le tattiche come parte di un più ampio sforzo da miliardi di dollari per plasmare l'ambiente informativo mondiale e mettere a tacere i critici di Pechino. Dice che lo sforzo si è ampliato sotto il presidente Xi Jinping.

Le vittime hanno descritto una raffica di decine di migliaia di post che le chiamavano traditrici, cani, e con insulti razzisti e omofobi. Alcune si sono rivolte alle forze dell'ordine, compreso l'FBI, ma poco è stato fatto, ha riferito la CNN. Le piattaforme hanno chiuso migliaia di account che prendevano di mira queste vittime, ma vengono superate da quelli nuovi che compaiono ogni giorno. Meta ha detto ad agosto di aver rimosso un gruppo di quasi 8.000 account attribuiti all'organizzazione solo nel secondo trimestre del 2023. Google ha detto alla CNN di aver chiuso più di 100.000 account associati negli ultimi anni. X ha bloccato centinaia di migliaia di account cinesi "sostenuti dallo Stato" o "legati allo Stato", secondo i blog dell'azienda.

Ricercatori privati seguono la rete da quando è stata scoperta, più di quattro anni fa. Solo negli ultimi mesi i procuratori federali e Meta hanno concluso pubblicamente che l'operazione ha legami con la polizia cinese. Il deputato Mike Gallagher, presidente della Commissione ristretta della Camera sul PCC, ha detto alla CNN: "Potremmo pensare che questo sia confinato a certe chatroom, o a questa o quella piattaforma, ma si sta espandendo su tutta la linea. Ed è solo questione di tempo prima che accada a quel cittadino americano medio che ora non pensa che sia un suo problema."

Chen Pokong, attivista con base a New York, ha visto dei troll disturbare un evento anti-comunismo su Zoom che aveva organizzato nel gennaio 2021. Prendevano in giro i partecipanti e minacciavano che una vittima sarebbe "morta miseramente". I suoi sospetti su chi ci fosse dietro si sono consolidati all'inizio di quest'anno. Il Dipartimento di Giustizia ha poi incriminato più di 30 funzionari cinesi per una vasta operazione di disinformazione contro dissidenti negli Stati Uniti, comprese persone in quella riunione Zoom.

Cosa dicono i pubblici

La preoccupazione pubblica non è marginale. Un sondaggio Ipsos commissionato dall'Unesco ha coperto 8.000 persone in 16 Paesi che dovevano tenere elezioni nazionali, per un totale di 2.500.000.000 di elettori. Ha rilevato che l'85% era preoccupato per l'influenza della disinformazione online. L'87% ha detto che aveva già avuto un impatto importante sulla vita politica nazionale. Il 56% degli utenti di internet si informava principalmente dai social media, più che dalla TV (44%) o dai siti dei media (29%). La fiducia nei social media era del 50%, contro il 66% della televisione, il 63% della radio e il 57% dei siti e delle app dei media. In tutti e 16 i Paesi, il 68% ha detto che i social media erano il luogo in cui le fake news erano più diffuse, davanti alle app di messaggistica al 38%.

Audrey Azoulay, direttrice generale dell'Unesco, ha detto ai giornalisti che le informazioni false e l'incitamento all'odio online, accelerati e amplificati dalle piattaforme, ponevano "rischi importanti per la coesione sociale, la pace e la stabilità". Serve urgentemente una regolamentazione, ha detto, "per proteggere l'accesso all'informazione ... e allo stesso tempo proteggere la libertà di espressione e i diritti umani". Il piano dell'Unesco si basa su sette principi, tratti da quella che definisce una consultazione senza precedenti con più di 10.000 contributi da 134 Paesi nell'arco di 18 mesi. Guilherme Canela de Souza Godoi, capo della sezione libertà di espressione dell'Unesco, ha detto che più di 50 Paesi regolano già i social media, spesso non in linea con le norme internazionali sulla libertà di espressione e i diritti umani. L'Unesco prevede una Conferenza mondiale dei regolatori nel 2024.

Anche la regolamentazione ha i suoi argomenti. Il senatore Sheldon Whitehouse ha chiesto di abrogare la Sezione 230 del Communications Decency Act e di sostituirla con una versione più ristretta che obblighi alla "divulgazione dei finanziatori della disinformazione", secondo Reclaim The Net. Whitehouse sostiene che il rischio di responsabilità potrebbe spingere le aziende ad agire contro la disinformazione anche a costo dell'engagement. I critici ribattono che la maggior parte della disinformazione finirebbe per essere discorso protetto.

Nessuno di questi dibattiti cambia l'aritmetica operativa. Il resoconto del Guardian su X nota che Musk ha sciolto il Trust and Safety Council della piattaforma dopo la sua acquisizione nel 2022. L'azienda ha detto che intendeva riorganizzare il team, ma i piani restano poco chiari. X ha introdotto le Community Notes, un programma di moderazione dal basso che scarica gran parte dell'onere sugli utenti invece che su moderatori assunti. La Union of Concerned Scientists, citando il Center for Countering Digital Hate, ha riferito che X "continua a ospitare quasi l'86% di una serie di 300 post d'odio a una settimana dalla nostra segnalazione". La ricercatrice Abbie Richards ha trovato che i tweet che negano il clima sono passati da una media di 30.000 a settimana tra dicembre 2021 e luglio 2022 a quasi 110.000 a settimana dopo luglio 2022.

Lo schema in tutti e quattro i casi è lo stesso. Un'affermazione viene fabbricata o riciclata. Viene seminata attraverso account con portata. I sistemi tarati sull'engagement la fanno salire in classifica. La correzione arriva dopo il danno. Come ha mostrato il caso Southport, la correzione può arrivare nel giro di un giorno. La rivolta è avvenuta lo stesso.

Commenti 0

Fonti

6
  1. 01How Israel-Hamas war disinformation is being spread onlineEN
  2. 0285% of people worry about online disinformation, global survey findsEN
  3. 03Online disinformation sparked a wave of far-right violence in the UKEN
  4. 04China is using the world's largest online disinformation operation to harass AmericansEN
  5. 05Senator Sheldon Whitehouse: Repeal Section 230 to combat online "disinformation"EN
  6. 06For Online Disinformation and Hate, X Marks the SpotEN

Tutti i numeri e le citazioni di questo testo provengono dalle fonti elencate sotto.

I contenuti sono stati preparati dalla redazione con il supporto dell'IA.

Chiara Romano

Chiara Romano

IA, modelli e tecnologie

Chiara Romano scrive di tecnologia, IA e modelli, media e internet per FLASH24, partendo da documentazione tecnica, repository e specifiche invece che da comunicati stampa. Per ogni modello o piattaforma che segue controlla versioni, licenze, parametri e benchmark, e verifica i numeri confrontandoli con i dati originali o con test indipendenti. Confronta le schede tecniche tra fornitori, parla con sviluppatori e amministratori di sistema, e tiene d'occhio le finestre di rilascio e le modifiche ai termini d'uso. Fuori dalla redazione gestisce self-hosting e reti domestiche, esperienza che le serve per capire come funzionano davvero i servizi che racconta. Non pubblica una notizia se la fonte primaria non è verificabile.

Redazione →

Commenti

0
  1. Nessun commento — sii il primo.

Scrivi un commento

I commenti sono pubblici. Non pubblichiamo insulti, spam né pubblicità.