Vai al contenuto
Ora nel mondoEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portale su IA e tecnologiaeventi · analisi · interviste · approfondimenti tecnici

Cerca
LIVE
›

Come funzionano le reti di disinformazione online, e perché continuano a vincere

Un estratto dietro le quinte di un cortometraggio palestinese è stato visto circa due milioni di volte su X, ha riferito il Guardian. La didascalia diceva "Video che mostra Israele mentre tenta di creare filmati falsi di morti". Il filmato era vero. L'affermazione no.

Media e internetSpiegatoChiara RomanoPubblicato: 28 settembre 20268 min di letturaFonti 6
Come funzionano le reti di disinformazione online, e perché continuano a vincere

Il Guardian ha riportato quel post l'11 ottobre 2023. È un buon punto di partenza per capire come operano le reti di disinformazione online. Raramente inventano materiale dal nulla. Prendono filmati autentici, li inseriscono in una cornice falsa e lasciano che sia la piattaforma a fare il resto.

La stessa inchiesta del Guardian ha catalogato altri esempi dei giorni successivi all'attacco di Hamas a Israele, sabato 7 ottobre. Un video proveniva dal canale YouTube ufficiale del servizio di sicurezza dello Stato dell'Azerbaigian. Mostrava ex leader arrestati del governo separatista del Nagorno-Karabakh. È stato ripubblicato su X come filmato di generali israeliani catturati e ha totalizzato due milioni di visualizzazioni. Un promemoria della Casa Bianca manipolato, presentato come Joe Biden che dà 8.000.000.000 di dollari a Israele, è stato visto 400.000 volte. Secondo il Guardian era una versione modificata del suo promemoria di luglio che annunciava 400.000.000 di aiuti all'Ucraina. La Casa Bianca ha confermato a NBC che il documento era falso.

Quattro parti in movimento, non una

Le cronache indicano una struttura ricorrente. Primo, il materiale grezzo: un'immagine, un video, un documento o un evento di cronaca autentici. Secondo, la cornice: una didascalia, un nome, una nazionalità, una religione. Terzo, la distribuzione: account di grandi dimensioni, verifiche a pagamento e sistemi di raccomandazione. Sono questi a far emergere la cornice falsa davanti a chi non la stava cercando. Quarto, il ritardo: la correzione arriva quando la narrazione si è già consolidata.

Il caso di Southport, nel luglio 2024, mostra bene questo ritardo. Un attacco con coltello ha ucciso tre bambine. Nel giro di poche ore, affermazioni false sul nome, la religione e lo status migratorio dell'aggressore si sono diffuse online. Hannah Rose è analista di odio ed estremismo all'Institute for Strategic Dialogue. Ha detto a CNBC che un post su X indicava falsamente l'autore come "Ali al-Shakati", presentato come un migrante di fede musulmana. Alle 15 del giorno successivo, ha detto, il nome falso aveva oltre 30.000 menzioni solo su X. La polizia ha smentito le affermazioni il giorno dopo la loro comparsa. Ha detto che il sospetto era nato in Gran Bretagna, ma la narrazione aveva già preso piede. Gruppi di estrema destra hanno organizzato proteste contro i migranti e contro l'Islam. Sono degenerate in giorni di rivolte e attacchi a moschee, centri di immigrazione e hotel che ospitavano richiedenti asilo.

Rose ha anche descritto come i meccanismi delle piattaforme abbiano amplificato il nome falso, non solo ospitato. Ha detto che quando gli utenti cercavano "Southport" su TikTok, la sezione "Altri hanno cercato" promuoveva il nome falso dell'aggressore. È successo anche 8 ore dopo che la polizia aveva confermato che l'informazione era errata. L'analisi di ISD ha rilevato che gli algoritmi funzionavano in modo simile su X, dove il nome errato compariva come argomento di tendenza.

Perché le cornici false viaggiano

Joe Ondrak è research and tech lead per il Regno Unito di Logically. Ha detto a CNBC che le affermazioni su Southport hanno agito come "catnip" per un pubblico già preparato da anni di retorica contro l'immigrazione. "Non è che questa affermazione falsa esca e poi, sapete, venga creduta da tutti", ha detto. I resoconti funzionano invece come "un modo per razionalizzare e rafforzare pregiudizi, preconcetti e speculazioni già esistenti prima che qualsiasi verità accertata potesse emergere".

Quel meccanismo non è specifico di un paese o di un conflitto. Il riepilogo del Guardian dell'ottobre 2023 notava che la Russia è da tempo un colpevole abituale nella diffusione di disinformazione su X. Sembrava approfittare del conflitto Israele-Hamas. L'ex presidente russo Dmitry Medvedev, vicepresidente del Consiglio di sicurezza russo, ha scritto su Twitter che le armi della Nato consegnate all'Ucraina venivano ora usate contro Israele. Un account X legato al gruppo mercenario Wagner ha pubblicato un video che mostrava apparentemente Hamas ringraziare l'Ucraina per le armi. È stato visto più di 300.000 volte e amplificato da account di estrema destra negli Stati Uniti. Eliot Higgins di Bellingcat ha segnalato un falso video della BBC. Sosteneva di mostrare un'inchiesta di Bellingcat sul contrabbando di armi ucraine verso Hamas, diffuso da utenti russi dei social media. Higgins ha detto che non era chiaro se si trattasse di una campagna del governo russo o di uno sforzo dal basso.

Qui conta la scala. Un'inchiesta della CNN pubblicata il 13 novembre 2023 ha scoperto che il governo cinese aveva costruito la più grande operazione di disinformazione online conosciuta al mondo. La usava per molestare residenti, politici e imprese statunitensi, a volte minacciando di violenza gli obiettivi. La rete, nota come "Spamouflage" o "Dragonbridge", ha centinaia di migliaia di account sulle principali piattaforme. Meta ha detto nell'agosto 2023 di aver rimosso un gruppo di quasi 8.000 account attribuiti al gruppo solo nel secondo trimestre di quell'anno. Google ha detto alla CNN di aver chiuso più di 100.000 account associati negli ultimi anni. X aveva bloccato centinaia di migliaia di account cinesi "sostenuti dallo Stato" o "legati allo Stato". Il Dipartimento di Stato americano ha descritto le tattiche come parte di uno sforzo più ampio da diversi miliardi di dollari per plasmare l'ambiente informativo mondiale e mettere a tacere i critici di Pechino.

Il divario nella moderazione

Le piattaforme non sono condotti passivi, e diversi rapporti lo rendono concreto. Il Guardian ha riferito che Elon Musk ha sciolto il Trust and Safety Council di X dopo la sua acquisizione nel 2022. Ha riferito che aveva licenziato due responsabili della fiducia e della sicurezza nell'anno precedente. L'azienda ha detto di avere piani per riorganizzare il team, ma questi sono rimasti poco chiari. X ha introdotto le Community Notes, un programma di moderazione basato sul contributo degli utenti. Scarica in gran parte sugli utenti l'onere di correggere i fatti invece di impiegare moderatori di contenuti. Martedì 10 ottobre 2023, la Commissione europea ha inviato a Musk una lettera. Lo avvertiva in merito a presunta disinformazione su X riguardo all'attacco di Hamas, inclusi notizie false e "immagini vecchie riutilizzate".

La ricerca indipendente ha tracciato la direzione della tendenza. La Union of Concerned Scientists, scrivendo il 20 settembre 2023, ha citato una scoperta del Center for Countering Digital Hate. X "continua a ospitare quasi l'86% di una serie di 300 post di odio dopo una settimana da quando li abbiamo segnalati". La ricercatrice Abbie Richards ha rilevato che i tweet negazionisti sul clima erano in media 30.000 a settimana tra dicembre 2021 e luglio 2022. Sono quasi triplicati a 110.000 a settimana dopo luglio 2022. Un ricercatore della University of Southern California ha rilevato che il discorso d'odio quotidiano medio degli utenti ostili è quasi raddoppiato nei primi sei mesi della proprietà di Musk. Il post della UCS citava anche un calo di circa il 60% dei ricavi pubblicitari.

Niente di tutto questo è terreno incontestato. Lo stesso pezzo della UCS notava che la maggior parte della disinformazione sul clima su X proviene da relativamente pochi utenti. In vista e durante la COP27, i tweet e i quote tweet di appena 16 account hanno accumulato 507.000 like e retweet. Un piccolo numero di account determinati può produrre l'apparenza di un movimento di massa. È proprio questo che rende il modello di rete difficile da controllare.

Cosa dice il pubblico di volere

Un sondaggio Ipsos commissionato dall'Unesco ha coinvolto 8.000 persone in 16 paesi che nel 2024 avrebbero tenuto elezioni nazionali. Il Guardian lo ha riportato il 7 novembre 2023. Ha rilevato che l'85% era preoccupato per l'influenza della disinformazione online. L'87% ha detto che aveva già avuto un impatto importante sulla vita politica nazionale. I social media erano la principale fonte di notizie per il 56% degli utenti di internet, davanti alla TV al 44% e ai siti dei media al 29%. La fiducia nelle notizie dei social media era del 50% contro il 66% della televisione. In tutti i 16 paesi, il 68% ha detto che i social media erano il luogo in cui le notizie false erano più diffuse.

La direttrice generale dell'Unesco, Audrey Azoulay, ha detto ai giornalisti che la disinformazione e il discorso d'odio online rappresentavano "rischi importanti per la coesione sociale, la pace e la stabilità". Ha detto che le piattaforme acceleravano e amplificavano questi contenuti. Ha detto che la regolamentazione era urgentemente necessaria "per proteggere l'accesso all'informazione... proteggendo allo stesso tempo la libertà di espressione e i diritti umani". L'Unesco ha detto che il suo progetto di governance si basava su più di 10.000 contributi da 134 paesi in 18 mesi. Ha detto che più di 50 paesi stavano già regolamentando i social media, spesso non in linea con le norme internazionali sulla libertà di espressione e sui diritti umani.

Anche la regolamentazione non è una risposta definita. Il senatore Sheldon Whitehouse ha sostenuto l'abrogazione della Sezione 230 del Communications Decency Act. Vuole una versione più ristretta che obblighi alla "divulgazione dei finanziatori della disinformazione", secondo il resoconto di Reclaim The Net del suo capitolo di libro e del thread su Twitter. Whitehouse ha sostenuto che "la minaccia della responsabilità legale, per esempio, potrebbe rendere Facebook e altre aziende più propense ad adottare misure che fermino la diffusione della disinformazione anche se riducono anche il coinvolgimento degli utenti, poiché non agire comporterebbe i propri rischi finanziari". I critici di quell'approccio, come nota Reclaim The Net, sospettano che la maggior parte della disinformazione diventerebbe semplicemente discorso protetto dal Primo Emendamento.

Il Regno Unito offre un test dal vivo. Ha un Online Safety Act pensato per combattere il discorso d'odio. Ma CNBC ha riferito che entra in vigore solo all'inizio del prossimo anno e potrebbe non bastare a proteggere da alcune forme di disinformazione. Mercoledì 7 agosto 2024, il regolatore britannico dei media Ofcom ha scritto alle piattaforme social. Ha detto che non dovrebbero aspettare l'entrata in vigore della nuova legge.

Il vicedirettore di Amnesty Tech, Pat de Brún, ha detto al Guardian che piattaforme come Meta e X hanno chiare responsabilità secondo gli standard internazionali sui diritti umani. Ha detto che queste responsabilità aumentano in tempi di crisi e conflitto. "Le aziende di social media sono responsabili di identificare e rispondere efficacemente ai rischi e di adottare misure efficaci per limitare la diffusione di contenuti dannosi", ha detto. Ha aggiunto che le grandi aziende tecnologiche hanno "molto spesso" mancato di intervenire in tali emergenze.

Commenti 0

Fonti

6
  1. 01How Israel-Hamas war disinformation is being spread onlineEN
  2. 0285% of people worry about online disinformation, global survey findsEN
  3. 03Online disinformation sparked a wave of far-right violence in the UKEN
  4. 04China is using the world's largest online disinformation operation to harass AmericansEN
  5. 05Senator Sheldon Whitehouse wants to repeal Section 230 to combat online "disinformation"EN
  6. 06For Online Disinformation and Hate, X Marks the SpotEN

Tutti i numeri e le citazioni di questo testo provengono dalle fonti elencate sotto.

I contenuti sono stati preparati dalla redazione con il supporto dell'IA.

Chiara Romano

Chiara Romano

IA, modelli e tecnologie

Chiara Romano scrive di tecnologia, IA e modelli, media e internet per FLASH24, partendo da documentazione tecnica, repository e specifiche invece che da comunicati stampa. Per ogni modello o piattaforma che segue controlla versioni, licenze, parametri e benchmark, e verifica i numeri confrontandoli con i dati originali o con test indipendenti. Confronta le schede tecniche tra fornitori, parla con sviluppatori e amministratori di sistema, e tiene d'occhio le finestre di rilascio e le modifiche ai termini d'uso. Fuori dalla redazione gestisce self-hosting e reti domestiche, esperienza che le serve per capire come funzionano davvero i servizi che racconta. Non pubblica una notizia se la fonte primaria non è verificabile.

Redazione →

Commenti

0
  1. Nessun commento — sii il primo.

Scrivi un commento

I commenti sono pubblici. Non pubblichiamo insulti, spam né pubblicità.