Per i deputati l'Online Safety Act non copre la disinformazione legale ma dannosa

Il rapporto della commissione parte dalle rivolte dell'estate precedente nel Regno Unito. Secondo i deputati, a scatenarle hanno contribuito in parte la disinformazione online e i contenuti d'odio comparsi dopo gli accoltellamenti mortali a una lezione di danza per bambini a Southport. Quei post, scrivono, sono stati amplificati dagli algoritmi di raccomandazione delle piattaforme social.

L'Online Safety Act ha ricevuto il royal assent nell'ottobre 2023. Le parti che obbligano le aziende social a proteggere gli utenti dai contenuti illegali sono entrate in vigore nel marzo 2025. La commissione avverte che la legge non affronta ancora l'amplificazione algoritmica di quello che definisce "contenuto legale ma dannoso". Il pubblico resta così esposto a una nuova crisi come quella dell'estate precedente. The Register ha riportato le conclusioni della commissione l'11 luglio 2025.

155 milioni di impression su X

I numeri nel rapporto sono duri. Tra il 29 luglio e il 9 agosto 2024 le affermazioni false o infondate sull'attentatore di Southport hanno totalizzato 155 milioni di impression su X. Sui social il nome falso è stato visto 420.000 volte, con una potenziale copertura di 1,7 miliardi di persone. A promuoverlo sono stati direttamente gli strumenti algoritmici. Il nome è comparso nella sezione "Trending in the UK" di X e in "Others searched for" di TikTok, ha detto la commissione.

Dame Chi Onwurah, deputata e presidente della Commissione Scienza, Innovazione e Tecnologia, ha detto che la legislazione "non è all'altezza" e che il governo deve fare di più contro la disinformazione che causa danni senza superare la soglia dell'illegalità. "Le aziende social non sono piattaforme neutrali: curano attivamente ciò che vedi online, e devono essere ritenute responsabili", ha detto. La commissione ha esortato il governo ad adottare cinque principi come base della futura regolamentazione, dalla protezione della libertà di espressione alla responsabilità delle piattaforme per i contenuti che mettono online.

Come si siano diffuse in origine le affermazioni false è documentato in dettaglio. CNBC ha riferito il 9 agosto 2024 che, entro poche ore dall'attacco con coltello di Southport, costato la vita a tre bambine, le informazioni false sul nome, la religione e lo status migratorio dell'attentatore avevano guadagnato una trazione significativa. Hannah Rose, analista di odio ed estremismo all'Institute for Strategic Dialogue, ha detto a CNBC che un post su X indicava falsamente l'autore come "Ali al-Shakati", presunto migrante di fede musulmana. Entro le 15 del giorno successivo, ha aggiunto, il nome falso aveva oltre 30.000 menzioni solo su X.

Altre affermazioni false condivise sui social dicevano che l'attentatore era su una lista di sorveglianza dei servizi segreti, che era arrivato nel Regno Unito su una piccola imbarcazione nel 2023 e che era noto ai servizi locali di salute mentale. Lo riferisce l'analisi dell'ISD citata da CNBC. La polizia ha smentito le affermazioni il giorno dopo la loro comparsa, dicendo che il sospetto era nato in Gran Bretagna. A quel punto la narrazione aveva già preso piede. Gruppi di estrema destra hanno iniziato a organizzare proteste anti-migranti e anti-islamiche, tra cui una manifestazione alla veglia prevista per le bambine uccise. I disordini sono degenerati in giorni di rivolte, con attacchi a moschee, centri per l'immigrazione e hotel che ospitavano richiedenti asilo.

Come le piattaforme hanno spinto il nome falso

I social non si sono limitati a ospitare le falsità. Secondo Rose dell'ISD, account con centinaia di migliaia di follower, e spunte blu a pagamento su X, hanno condiviso le informazioni false. Gli algoritmi della piattaforma le hanno poi spinte verso altri utenti. "Per esempio, quando cercavi 'Southport' su TikTok, nella sezione 'Others Searched For', che raccomanda contenuti simili, il nome falso dell'attentatore era promosso dalla piattaforma stessa, anche 8 ore dopo che la polizia aveva confermato che l'informazione era errata", ha detto Rose a CNBC. L'analisi dell'ISD ha mostrato che gli algoritmi funzionavano in modo simile su altre piattaforme come X, dove il nome errato dell'attentatore compariva come argomento di tendenza.

Joe Ondrak, responsabile ricerca e tecnologia per il Regno Unito di Logically, azienda tecnologica che sviluppa strumenti di intelligenza artificiale per combattere la disinformazione, ha detto a CNBC che le affermazioni false fungevano da "erba gatta" per gruppi già ostili alla migrazione. "Non è che questa affermazione falsa esca e poi, sapete, venga creduta da tutti", ha detto. I rapporti agiscono invece come "un modo per razionalizzare e rafforzare pregiudizi e preconcetti preesistenti e speculazioni prima che qualsiasi verità accertata potesse emergere".

Le affermazioni false hanno raggiunto anche Telegram, che secondo Ondrak consolida narrazioni ed espone un numero crescente di persone a "credenze più intransigenti". Ha descritto affermazioni convogliate attraverso quello che ha chiamato il milieu post-Covid di Telegram, inclusi canali inizialmente anti-vaccini e poi cooptati da figure di estrema destra che promuovono temi anti-migranti. In risposta a una richiesta di commento di CNBC, Telegram ha negato di aiutare la diffusione di disinformazione, dicendo che i suoi moderatori monitoravano la situazione e rimuovevano canali e post che invocavano violenza, non consentiti dai suoi termini di servizio.

Almeno alcuni degli account che invitavano a partecipare alle proteste potevano essere ricondotti all'estrema destra, secondo l'analisi di Logically, inclusi alcuni legati al gruppo estremista di destra vietato National Action, dichiarato organizzazione terroristica nel 2016 ai sensi del Terrorism Act britannico. Ondrak ha anche notato che molti gruppi che avevano precedentemente diffuso informazioni false sull'attacco avevano iniziato a fare marcia indietro, dicendo che era una bufala.

Mentre le rivolte continuavano, il proprietario di X Elon Musk è intervenuto con commenti controversi sulle manifestazioni violente sulla sua piattaforma, provocando la reazione del governo britannico. Il ministro della Giustizia del paese ha chiesto a Musk di "comportarsi responsabilmente". TikTok e X non hanno risposto immediatamente alla richiesta di commento di CNBC. Il mercoledì dopo il picco dei disordini, migliaia di manifestanti antirazzisti si sono radunati in città e paesi di tutto il Regno Unito, superando di gran lunga le recenti proteste anti-immigrati.

Ofcom ha detto alle piattaforme di non aspettare

Il Regno Unito ha un Online Safety Act pensato per combattere l'incitamento all'odio, ma al momento delle rivolte non era ancora in vigore e, ha notato CNBC, potrebbe non bastare a proteggere da alcune forme di disinformazione. Il regolatore dei media Ofcom ha inviato una lettera alle piattaforme social dicendo che non dovevano aspettare l'entrata in vigore della nuova legge. Anche il governo britannico ha detto che le aziende social dovevano agire.

Il rapporto della commissione va oltre la sollecitazione del regolatore. I deputati hanno sostenuto che le piattaforme devono essere ritenute responsabili della diffusione algoritmica di contenuti fuorvianti o ingannevoli che possono radicalizzare e danneggiare gli utenti, e che l'Online Safety Act non affronta questo punto. "È imperativo regolamentare e legiferare su queste tecnologie sulla base dei principi esposti in questo rapporto, sfruttando il mondo digitale in modo da proteggere e responsabilizzare i cittadini", ha detto il rapporto. Durante le audizioni che lo hanno preceduto, la commissione ha ascoltato una serie di interpretazioni della legge britannica, rivelando una mancanza di chiarezza da parte di Ofcom e del servizio civile sul fatto che l'Online Safety Act copra del tutto la disinformazione.

Il caso di Southport non è l'unico esempio di disinformazione prodotta per denaro anziché per convinzione. Un'inchiesta di BuzzFeed News, realizzata in collaborazione con The Reporter di Taiwan, ha scoperto che dal 2011 almeno 27 operazioni informative online erano state attribuite in parte o del tutto ad agenzie di PR o marketing, 19 delle quali solo nel 2019. Descriveva un'industria mondiale di aziende di "black PR" pronte a schierare account falsi, narrazioni false e siti di pseudo-notizie per i clienti.

Una di queste, l'azienda israeliana Archimedes Group, ha creato reti di centinaia di pagine, account e gruppi Facebook in tutto il mondo e si vantava sul suo sito web che avrebbe "usato ogni strumento e preso ogni vantaggio disponibile per cambiare la realtà secondo i desideri del nostro cliente". Per un'elezione in Mali gestiva una falsa pagina di fact-checking che sosteneva di essere gestita da studenti locali. In Tunisia gestiva una pagina intitolata "Stop a la Desinformation et aux Mensonges". In Nigeria gestiva pagine a favore e contro lo stesso politico, l'ex vicepresidente Atiku Abubakar. I ricercatori hanno ipotizzato che la pagina pro-Abubakar "fosse probabilmente progettata per identificare i suoi sostenitori al fine di colpirli in seguito con contenuti anti-Abubakar".

Nathaniel Gleicher, allora responsabile della politica di cybersecurity di Facebook, ha detto a BuzzFeed News che "la professionalizzazione dell'inganno" è una minaccia crescente. "Nascono aziende che costruiscono il loro modello di business attorno all'inganno", ha detto. Cindy Otis, ex ufficiale della CIA e autrice di True or False: A CIA Analyst's Guide to Spotting Fake News, ha detto che le operazioni informative di stati nazionali come Russia e Iran avevano fornito "un manuale per individui e gruppi motivati finanziariamente a entrare in questo spazio".

Nel Regno Unito, la domanda immediata è se la legge intercetti il tipo di contenuto che ha preceduto le rivolte. La risposta della commissione, di fatto, è che non lo fa. Il nome falso era discorso legale, promosso da sistemi di raccomandazione, e visto 420.000 volte. Gli obblighi sui contenuti illegali dell'Online Safety Act, in vigore da marzo, non lo raggiungono. È il vuoto che i deputati vogliono colmare.