Comment fonctionnent les réseaux de désinformation, des émeutes de Southport aux agences de black PR

Le 29 juillet 2024, trois enfants ont été tués dans un cours de danse à Southport, dans le nord-ouest de l'Angleterre. En quelques heures, de fausses affirmations sur le nom, la religion et le statut migratoire de l'assaillant circulaient sur les réseaux sociaux. Le lendemain à 15 heures, un faux nom dépassait déjà les 30 000 mentions sur X, selon Hannah Rose, de l'Institute for Strategic Dialogue, citée par CNBC.

Un événement réel, un récit rapide et faux, une amplification algorithmique, des conséquences hors écran. Voilà l'anatomie d'un réseau de désinformation moderne. La police a démenti ces affirmations le lendemain de leur apparition et précisé que le suspect était né en Grande-Bretagne. Le récit avait déjà pris.

Ce qu'est réellement un réseau de désinformation

Le terme recouvre des réalités très diverses. D'un côté, des comptes vaguement liés qui se greffent sur un fait divers. De l'autre, des opérations commerciales qui vendent la manipulation comme un service, souvent appelées black PR.

Une revue de BuzzFeed News sur les retraits de plateformes et les enquêtes de sociétés de sécurité a constaté que depuis 2011, au moins 27 opérations d'information en ligne avaient été partiellement ou totalement attribuées à des agences de relations publiques ou de marketing. Dix-neuf d'entre elles ont eu lieu rien qu'en 2019. Cette revue a été réalisée en partenariat avec le Reporter, un site d'information d'investigation taïwanais.

Nathaniel Gleicher, responsable de la politique de cybersécurité chez Facebook, a déclaré à BuzzFeed News que « la professionnalisation de la tromperie » est une menace croissante. « La notion plus large de tromperie et d'opérations d'influence existe depuis un certain temps, mais ces dernières années, nous avons vu [...] des entreprises se développer qui construisent essentiellement leur modèle économique autour de la tromperie », a-t-il dit.

Un exemple : le groupe Archimedes, une société israélienne qui a bâti des réseaux de centaines de pages, comptes et groupes Facebook. Son site promettait d'« utiliser tous les outils et tirer tous les avantages disponibles afin de changer la réalité selon les souhaits de notre client ». Au Mali, elle gérait une fausse page de vérification des faits prétendant être tenue par des étudiants locaux. En Tunisie, elle gérait une page intitulée « Stop a la Desinformation et aux Mensonges ». Au Nigeria, elle gérait des pages à la fois pour et contre le même homme politique, l'ancien vice-président Atiku Abubakar.

La chaîne : aspirer, réécrire, publier, amplifier

Peng Kuan Chin, 32 ans, basé à Taichung, à Taïwan, a montré au Reporter comment son système fonctionnait. Des serveurs parcouraient le web à la recherche d'articles et de publications en chinois, réorganisaient les mots et les phrases en un nouveau texte, puis publiaient le résultat sur un ensemble de sites qu'il contrôlait. Des milliers de faux comptes de réseaux sociaux le poussaient dans les fils d'actualité, les applications de messagerie et les résultats de recherche.

« J'ai développé cela pour manipuler l'opinion publique », a déclaré Peng au Reporter. L'automatisation et l'intelligence artificielle « peuvent générer rapidement du trafic et de la publicité bien plus vite que des humains ».

Ses clients étaient des entreprises, des marques, des partis politiques et des candidats en Asie. « Les clients ont de l'argent, et je me fiche de ce qu'ils achètent », a-t-il dit.

Toutes les opérations ne reposent pas sur des logiciels sur mesure. En Ukraine, l'agence de relations publiques Pragmatico employait des dizaines de jeunes à l'aise avec le numérique pour publier des commentaires positifs sur de faux comptes Facebook au sujet de clients. En Pologne, Cat@Net gérait des réseaux de faux comptes Twitter opérés par des employés en situation de handicap travaillant depuis chez eux. L'agence les embauchait parce qu'elle pouvait les payer en dessous des tarifs du marché pendant qu'ils percevaient des subventions publiques. Une enquête d'Investigate Europe a aussi constaté que Cat@Net travaillait pour Art-Media, l'une des agences de relations publiques les plus en vue de Pologne. Art-Media a nié travailler avec Cat@Net.

Cindy Otis, ancienne officier de la CIA et autrice de True or False: A CIA Analyst's Guide to Spotting Fake News, a déclaré à BuzzFeed News que les opérations d'influence d'États comme la Russie et l'Iran fournissaient « un manuel pour les individus et les groupes motivés financièrement » qui entrent dans ce domaine.

Comment le récit de Southport s'est propagé

L'affaire de Southport n'avait pas besoin d'un prestataire payant. Il fallait une plateforme, un public et une histoire qui correspondait à ce qu'une partie de ce public croyait déjà.

Joe Ondrak, responsable recherche et technologie pour le Royaume-Uni chez Logically, a déclaré à CNBC que les fausses affirmations étaient de « l'herbe à chat » pour les groupes anti-immigration. « C'est vraiment exactement ce qu'il faut dire pour provoquer une réaction bien plus colérique qu'il n'y en aurait eu si la désinformation n'avait pas circulé », a-t-il dit.

Ondrak a ajouté que ces informations servaient de « moyen de rationaliser et de renforcer des préjugés, des biais et des spéculations préexistants avant que toute vérité établie puisse émerger ».

L'amplification a fait l'essentiel du travail. Rose a indiqué que des comptes comptant des centaines de milliers d'abonnés et des coches bleues payantes ont partagé les fausses informations, que les algorithmes des plateformes ont ensuite poussées vers d'autres utilisateurs. « Par exemple, quand vous cherchiez "Southport" sur TikTok, dans la section "Others Searched For", qui recommande des contenus similaires, le faux nom de l'assaillant était mis en avant par la plateforme elle-même, y compris 8 heures après que la police a confirmé que cette information était fausse », a-t-elle dit.

L'analyse de l'ISD a constaté que les algorithmes fonctionnaient de la même manière sur X, où le nom incorrect apparaissait comme sujet tendance. Les fausses affirmations ont aussi atteint Telegram, qui, selon Ondrak, consolide les récits et expose davantage de personnes à « des convictions plus radicales ». Telegram a déclaré à CNBC qu'il ne contribuait pas à la diffusion de fausses informations, affirmant que ses modérateurs surveillaient la situation et supprimaient les chaînes et publications appelant à la violence.

Les chiffres sont devenus énormes. Un rapport de juillet 2025 de la commission Science, Innovation et Technologie de la Chambre des communes a indiqué qu'entre le 29 juillet et le 9 août 2024, les affirmations fausses ou infondées sur l'assaillant de Southport ont obtenu 155 millions d'impressions sur X. Sur l'ensemble des réseaux sociaux, le faux nom a été vu 420 000 fois, avec une portée potentielle de 1,7 milliard de personnes, selon le rapport. Il a été directement promu par des outils algorithmiques, apparaissant dans les fonctions « Trending in the UK » de X et « Others searched for » de TikTok.

Quand le réseau quitte l'écran

Des groupes d'extrême droite ont organisé des manifestations anti-immigration et anti-islam, dont une lors de la veillée prévue pour les filles tuées. Les troubles ont dégénéré en plusieurs jours d'émeutes. Des mosquées, des centres d'immigration et des hôtels hébergeant des demandeurs d'asile ont été attaqués.

Au moins une partie des comptes appelant à participer aux manifestations pouvaient être reliés à l'extrême droite, selon une analyse de Logically, dont certains liés à National Action, un groupe extrémiste de droite interdit et désigné organisation terroriste en 2016 au titre de la loi britannique sur le terrorisme. Ondrak a aussi noté que de nombreux groupes ayant auparavant diffusé de fausses informations sur l'attaque avaient commencé à faire marche arrière, affirmant qu'il s'agissait d'un canular.

Le propriétaire de X, Elon Musk, est intervenu pendant les émeutes, faisant des commentaires controversés sur les manifestations violentes. Le ministre britannique chargé des tribunaux lui a demandé de « se comporter de manière responsable ». TikTok et X n'ont pas répondu immédiatement à la demande de commentaire de CNBC.

Le mercredi qui a suivi le plus fort de la violence, des milliers de manifestants antiracistes se sont rassemblés dans des villes et des bourgs du Royaume-Uni, surpassant largement en nombre les récentes manifestations anti-immigration.

Le problème du cadre légal

La Grande-Bretagne dispose d'un Online Safety Act, mais sa capacité à couvrir ce type de contenu est contestée. La loi a reçu la sanction royale en octobre 2023. Les éléments obligeant les entreprises de réseaux sociaux à protéger les utilisateurs contre les contenus illégaux sont entrés en vigueur le 17 mars 2025.

Lors d'une audition du 29 avril de la commission Science, Innovation et Technologie, la baronne Jones de Whitchurch, ministre au DSIT et au département des Affaires et du Commerce, a déclaré que la mésinformation et la désinformation étaient couvertes par la loi. Mark Bunting, directeur de la stratégie et de la mise en œuvre de la sécurité en ligne chez Ofcom, a indiqué que le gouvernement précédent avait retiré du champ de la loi des contenus légaux susceptibles de nuire aux adultes, dont certaines formes de mésinformation. Il a ajouté qu'il y avait « une petite réserve » : la loi a créé une infraction de fausses communications dans l'intention de causer un préjudice, lorsque les entreprises ont des motifs raisonnables d'en déduire l'intention.

La présidente de la commission, Chi Onwurah, a souligné que l'intention est très difficile à prouver. Elle a dit qu'Ofcom n'avait aucune obligation d'agir sur la mésinformation, même si les codes en parlent. « Cela semble être un problème clé », a-t-elle dit.

Talitha Rowland, directrice de la sécurité et des préjudices en ligne au DSIT, a déclaré à la commission que « la mésinformation et la désinformation ne sont pas une seule chose ». Il peut s'agir de contenu illégal, d'ingérence étrangère, de contenu incitant à la haine ou à la violence, ou de contenu sous le seuil d'illégalité qui reste nuisible aux enfants.

En juillet, le rapport de la commission était plus direct. Il indiquait que la loi ne traite pas l'amplification algorithmique des « contenus légaux mais nuisibles », laissant le public vulnérable à une répétition de l'été précédent. « Il est clair que l'Online Safety Act n'est tout simplement pas à la hauteur », a dit Onwurah. La commission a exhorté le gouvernement à adopter cinq principes pour la réglementation future, de la protection de la liberté d'expression à la responsabilité des plateformes pour les contenus qu'elles mettent en ligne.

Un dernier détail : les outils utilisés pour diffuser ce matériel changent. Grokipedia, lancé par Musk en octobre 2025, utilise l'IA pour aspirer et transformer des contenus avec peu de supervision humaine, écrit Andrew Orlowski dans UnHerd. Les premiers signalements sur la version 0.1 relevaient des faussetés générées par IA et des passages désobligeants ajoutés « au nom de l'exactitude ». Orlowski soutient que les grands modèles de langage « sont des moteurs de complétion statistique de mots qui hallucinent, et ces hallucinations sont endémiques ».