Dérrière les réseaux de désinformation : de Southport à Spamouflage

La vidéo montrait un garçon en T-shirt noir gisant apparemment dans une flaque de sang, une caméra au-dessus de lui, un homme hurlant des instructions. Des hommes en kippa et en uniforme vert ressemblant à celui de l'IDF se tenaient autour. Un utilisateur vérifié de X l'a partagée avec la légende : « Vidéo montrant Israël tentant de créer de fausses images de morts ». Selon le Guardian, il s'agissait d'une prise de coulisses du film palestinien Empty Place, sur le vide laissé par les Palestiniens ayant fui l'occupation israélienne. Le contenu est apparu sur TikTok avant de migrer vers X. L'original TikTok n'est plus disponible, mais la version réutilisée a continué de circuler et d'accumuler des vues. L'auteur du post ayant atteint 2m de vues a ensuite admis que la vidéo avait peut-être été utilisée hors contexte.

Cette affaire compte moins pour ce qu'elle dit d'une vidéo que pour ce qu'elle dit de la chaîne d'approvisionnement. Une véritable vidéo, dépouillée de son contexte, devient la preuve d'une affirmation qu'elle n'avait jamais vocation à étayer. La correction, s'il y en a une, arrive tard et circule mal.

Des réseaux, pas des posters solitaires

Quelques jours après l'attaque du 7 octobre, X a été inondé de contenu similaire. Une seconde vidéo, également issue de TikTok et désormais indisponible, a enregistré 2m de vues en affirmant montrer des généraux israéliens de haut rang capturés par des combattants du Hamas. En réalité, selon le Guardian, elle avait été publiée quelques jours plus tôt par la chaîne YouTube officielle du service de sécurité d'État de l'Azerbaïdjan et montrait d'anciens dirigeants arrêtés du gouvernement sécessionniste du Haut-Karabagh. Un document falsifié suggérant que Joe Biden avait accordé 8 000 000 000 de dollars d'aide à Israël a été visionné 400 000 fois sur X ; il s'agissait d'une version éditée de sa note de juillet annonçant 400 de millions d'aide à l'Ukraine. La Maison Blanche a confirmé à NBC que le document était faux. Le fil conducteur n'est pas une idéologie unique, mais une méthode : prendre du matériel réel, le reléguer, et laisser la distribution de la plateforme faire le reste.

La Russie est un coupable récurrent de la diffusion de désinformation sur X et semble avoir profité du conflit israélo-palestinien, a rapporté le Guardian. Le lundi suivant l'attaque, l'ancien président russe Dmitri Medvedev, vice-président du Conseil de sécurité russe, a tweeté : « Eh bien, amis de l'Otan, vous y êtes vraiment allés, n'est-ce pas ? Les armes remises au régime nazi en Ukraine sont maintenant utilisées activement contre Israël ». Séparément, un compte X lié au groupe mercenaire Wagner a posté une vidéo apparemment montrant le Hamas remerciant l'Ukraine pour les armes qu'il prévoyait d'utiliser contre Israël. Elle a généré plus de 300 000 vues et a été amplifiée par des comptes d'extrême droite américains.

Le camp ukrainien a riposté. Le renseignement ukrainien a accusé la Russie de fournir au Hamas des armes occidentales « trophées » saisies sur les champs de bataille en Ukraine afin de miner le soutien à Kyiv. En février, l'inspecteur général du Pentagone avait rapporté qu'il n'existait à ce jour aucune preuve de détournement d'armes et d'aide vers des tiers. Eliot Higgins, fondateur du média d'investigation Bellingcat, a signalé une fausse vidéo prétendant provenir de la BBC et affirmant contenir une enquête de Bellingcat sur le trafic d'armes ukrainiennes vers le Hamas. Higgins a déclaré qu'elle était poussée par des utilisateurs russes des réseaux sociaux, mais a ajouté qu'il était incertain qu'il s'agisse d'une campagne du gouvernement russe ou d'un effort de la base. Cette réserve mérite d'être retenue. L'attribution est la partie la plus difficile de ce travail, et les affirmations les plus retentissantes s'accompagnent souvent des preuves les plus minces.

Lorsque le faux nom devient un sujet tendance

Les émeutes britanniques d'août 2024 ont montré ce qui se passe lorsqu'un réseau obtient une histoire qui s'ajuste à un grief existant. Après que trois jeunes filles ont été tuées par couteau à Southport en juillet, de fausses informations sur le nom, la religion et le statut migratoire de l'auteur sont apparues en quelques heures. « En référence à un post sur LinkedIn, un post sur X a faux nommé le coupable « Ali al-Shakati », supposé être un migrant de confession musulmane. D'ici 15h le lendemain, le faux nom avait plus de 30 000 mentions sur X seul », a déclaré Hannah Rose, analyste des haines et de l'extrémisme à l'Institute for Strategic Dialogue, à CNBC par e-mail. D'autres posts affirmaient que l'auteur était sur une liste de surveillance des services de renseignement, était arrivé en 2023 dans un petit bateau et était connu des services locaux de santé mentale, selon l'analyse de l'ISD. La police a démenti ces affirmations le lendemain de leur apparition, indiquant que le suspect était né au Royaume-Uni. À ce stade, le récit avait de l'élan.

Des groupes d'extrême droite ont organisé des manifestations anti-migrants et anti-islam, y compris une manifestation lors de la veillée prévue pour les filles. Les manifestations ont dégénéré en plusieurs jours d'émeutes, avec des attaques contre des mosquées, des centres d'immigration et des hébergeant des demandeurs d'asile. Joe Ondrak, responsable de la recherche et de la technologie pour le Royaume-Uni chez la société technologique Logically, a déclaré à CNBC que les fausses affirmations étaient « une drogue » pour les groupes déjà préparés à réagir. « Ce n'est pas une question de cette fausse affirmation est diffusée et ensuite, vous savez, elle est croyée par tout le monde », a-t-il dit. Les rapports ont agi à la place comme « un moyen de rationaliser et de renforcer les préjugés et les biais existants et les spéculations avant que toute sorte de vérité établie puisse se diffuser ».

L'algorithme n'a pas seulement échoué à l'arrêter. Dans au moins un cas, il l'a recommandé.

Les mécaniques de la plateforme ont amplifié le mensonge de manières faciles à manquer si l'on regarde uniquement qui l'a posté. Rose a déclaré à CNBC que des comptes avec des centaines de milliers d'abonnés et des badges bleus payés ont partagé de fausses informations, qui ont ensuite été poussées par les algorithmes. Sur TikTok, lorsque les utilisateurs cherchaient « Southport », la section « Autres recherches », qui recommande des contenus similaires, a promu le faux nom de l'auteur, y compris huit heures après que la police a confirmé qu'il était incorrect. L'analyse de l'ISD a trouvé un comportement similaire sur X, où le nom incorrect figurait comme sujet tendance. Les fausses affirmations se sont également déplacées sur Telegram, que Ondrak a décrit comme consolidant les narratifs et exposant plus de personnes à « des croyances plus dures », y compris des canaux qui ont commencé comme anti-vaccin et ont été récupérés par des figures d'extrême droite. Telegram a déclaré à CNBC qu'il niait avoir aidé à diffuser de fausses informations, disant que ses modérateurs surveillaient la situation et supprimaient les canaux et posts appelant à la violence.

Certains comptes appelant à participer aux manifestations pouvaient être retracés jusqu'à l'extrême droite, selon l'analyse de Logically, y compris certains liés au groupe interdit National Action, nommé organisation terroriste en 2016 sous la loi britannique sur le terrorisme. La loi britannique sur la sécurité en ligne était censée traiter les discours de haine, mais n'est entrée en vigueur qu'au début de l'année suivante et peut ne pas suffire pour certaines formes de désinformation. Le mercredi après le pire des émeutes, le régulateur des médias Ofcom a écrit aux plateformes de médias sociaux leur disant qu'elles ne devaient pas attendre l'entrée en vigueur de la nouvelle loi. À ce stade, des milliers de manifestants anti-racistes s'étaient rassemblés dans les villes et les bourgs du Royaume-Uni, dépassant en nombre les manifestations anti-immigration.

La plus grande opération connue

Tous les réseaux ne sont pas improvisés autour d'un événement d'actualité. CNN a rapporté en novembre 2023 que le gouvernement chinois avait construit la plus grande opération de désinformation en ligne connue au monde et l'utilisait pour harceler les résidents, les politiciens et les entreprises américaines, menaçant parfois les cibles de violence. Le rapport était basé sur l'examen de documents judiciaires et de divulgations publiques par les entreprises de médias sociaux. Les victimes ont décrit une rafale de dizaines de milliers de posts sur les réseaux sociaux les appelant traîtres, chiens, et invectives racistes et homophobes. Certains avaient parlé aux forces de l'ordre, y compris au FBI, avec peu de résultat. Les entreprises technologiques et de médias sociaux avaient fermé des milliers de comptes, mais de nouveaux apparaissaient virtuellement chaque jour.

Le réseau est suivi sous des noms tels que « Spamouflage » et « Dragonbridge ». Ses centaines de milliers de comptes répartis sur toutes les principales plateformes de médias sociaux harcèlent les Américains qui critiquent le Parti communiste chinois, cherchant à discréditer les politiciens américains, dénigrant les entreprises américaines en désaccord avec les intérêts de la Chine, et détournant les conversations en ligne qui pourraient dépeindre le PCC négativement. Des chercheurs privés le suivent depuis sa découverte il y a plus de quatre ans, mais seulement ces derniers mois, les procureurs fédéraux et Meta ont conclu publiquement que l'opération avait des liens avec la police chinoise. Meta a déclaré en août avoir supprimé un cluster de près de 8 000 comptes attribués au groupe au seul deuxième trimestre de 2023. Google, qui possède YouTube, a déclaré à CNN avoir fermé plus de 100 000 comptes associés au cours des dernières années. X a bloqué des centaines de milliers de comptes chinois « soutenus par l'État » ou « liés à l'État », selon les blogs de l'entreprise.

L'échelle est le point. Les coûts d'exploitation faibles signifient que les réseaux peuvent absorber les suppressions et se reconstruire. « Nous pourrions penser que cela est confiné à certaines salles de chat, ou à cette plateforme ou à celle-là, mais cela s'étend partout », a déclaré le représentant Mike Gallagher, président de la Commission spéciale de la Chambre sur le PCC, à CNN. « Et il ne s'agit que d'une question de temps avant que cela n'arrive au citoyen américain moyen qui ne pense pas que c'est son problème en ce moment ». Le Département d'État américain a décrit les tactiques comme faisant partie d'un effort plus large de plusieurs milliards de dollars pour façonner l'environnement d'information mondial et faire taire les critiques de Pékin, un effort qui, selon lui, s'est étendu sous le président Xi Jinping.

Ce que les audiences disent vouloir

La préoccupation du public n'est pas une position de niche. Un sondage Ipsos commandé par l'Unesco auprès de 8 000 personnes dans 16 pays devant tenir des élections nationales en 2024, avec un total de 2 500 000 000 d'électeurs, a révélé que 85 % s'inquiétaient de l'influence de la désinformation en ligne et 87 % ont déclaré qu'elle avait déjà eu un impact majeur sur la vie politique nationale. Les réseaux sociaux étaient la principale source d'actualités pour 56 % des utilisateurs d'Internet, devant la télévision à 44 % et les sites de médias à 29 %, bien que la confiance en eux soit plus faible : 50 % contre 66 % pour la télévision, 63 % pour la radio et 57 % pour les sites Web et applications de médias. Dans les 16 pays, 68 % ont déclaré que les réseaux sociaux étaient l'endroit où les fausses nouvelles étaient les plus répandues, devant les applications de messagerie à 38 %.

Audrey Azoulay, directrice générale de l'Unesco, a déclaré aux journalistes que les fausses informations et les discours de haine en ligne, accélérés et amplifiés par les plateformes, posaient de « grands risques pour la cohésion sociale, la paix et la stabilité ». La régulation était urgemment nécessaire « pour protéger l'accès à l'information ... tout en protégeant en même temps la liberté d'expression et les droits de l'homme », a-t-elle déclaré, en présentant un plan de gouvernance. L'Unesco a déclaré que plus de 50 pays régulaient déjà les réseaux sociaux, mais souvent pas en conformité avec les normes internationales de la liberté d'expression et des droits de l'homme, et qu'au moins une grande plateforme avait dit à l'organisation de 194 membres qu'elle préférerait un cadre mondial cohérent à un patchwork de systèmes nationaux. L'organisation prévoit une Conférence mondiale des régulateurs en 2024.

Le combat politique n'est pas réglé, et une partie de lui va à l'encontre des modèles d'entreprise des plateformes eux-mêmes. Le sénateur Sheldon Whitehouse a plaidé pour l'abrogation de la Section 230 du Communications Decency Act et son remplacement par une version plus étroite qui obligerait la « divulgation des financeurs de désinformation », écrivant que la menace de responsabilité légale « pourrait rendre Facebook et d'autres entreprises plus enclines à adopter des mesures qui arrêtent la diffusion de fausses informations, même si elles réduisent aussi l'engagement des utilisateurs, car l'inaction aurait ses propres risques financiers ». Les critiques de cette approche affirment que beaucoup de désinformation finirait par être protégée par le Premier Amendement. Les deux camps débattent de la même chose : qui porte le coût lorsqu'un mensonge voyage plus vite que la correction.

Ce que les affaires partagent, c'est une division du travail. Quelqu'un produit la fausse affirmation, souvent en réutilisant du matériel réel. Quelqu'un avec de la portée la poste. Les algorithmes décident à quelle distance elle va. Les régulateurs arrivent après les faits, s'ils arrivent. Et les personnes les plus susceptibles d'être ciblées, des résidents de Southport aux dissidents chinois aux États-Unis, sont celles qui ont le moins de levier sur tout cela.