Cartographier les réseaux de désinformation : un guide détaille une méthode en quatre étapes

Le guide, publié par le projet Exposing the Invisible, décrit une désinformation de plus en plus organisée en « infrastructures de réseau » conçues pour manipuler et tromper de manière coordonnée. Il fait parcourir au lecteur une méthodologie en quatre étapes pour découvrir, cartographier et suivre ces réseaux, quelles que soient les langues et les contextes.

Son argument central tient dans une distinction entre vérification des faits et enquête sur les réseaux. La vérification des faits authentifie un élément isolé : une photo, une vidéo, un article. Le suivi des réseaux, lui, examine ce qui entoure cet élément : les sites, les comptes, le chemin d'amplification. Le guide parle d'un passage du texte au contexte. Plus chronophage, cette approche identifie mieux les acteurs qui se cachent derrière l'auteur d'une seule publication.

Les quatre étapes, et pourquoi elles se répètent

Le guide présente ses quatre étapes dans un ordre consécutif pour faciliter la lecture, puis prévient que les enquêtes réelles sont récursives. « De nombreuses étapes seront récursives et il sera donc nécessaire de passer d'une étape à l'autre de manière non séquentielle », indique-t-il. Chaque étape contient trois sous-sections, signalées dans le guide par des barres de couleurs différentes.

Il signale aussi un problème de terminologie qui trompe les lecteurs occasionnels. Tous ceux qui se retrouvent pris dans une campagne de désinformation ne savent pas qu'ils en font partie. Lorsque les participants ne le savent pas, le guide précise que les experts utilisent le terme mésinformation plutôt que désinformation. Une confusion sur cette distinction en public peut faire passer des utilisateurs ordinaires pour des agents d'influence.

Le guide s'appuie sur une définition du Media Manipulation Casebook du Shorenstein Center on Media, Politics and Public Policy. La manipulation médiatique y est décrite comme un processus où des acteurs exploitent « des conditions ou des caractéristiques spécifiques au sein d'un écosystème informationnel » pour générer de l'attention et influencer le discours public par des moyens trompeurs, créatifs ou déloyaux. Le guide note que l'Union européenne a introduit l'acronyme FIMI, pour manipulations et ingérences informationnelles étrangères, qu'il qualifie de stratégiques, coordonnées et intentionnelles.

Adolescents macédoniens, sites italiens, actualités générées par IA

Tous les réseaux n'ont pas de commanditaire politique. Le guide évoque des motivations économiques, notamment la monétisation publicitaire, et cite le réseau de sites animé pendant l'élection américaine de 2016 par un groupe d'adolescents d'une petite ville de Macédoine. Il mentionne aussi un cas sur lequel l'auteur a travaillé en Italie, qui a conduit à la découverte d'un réseau de sites dans une très petite ville du sud du pays.

Parmi les autres exemples figurent une enquête de Buzzfeed News sur la manière dont l'un des plus grands réseaux de médias alternatifs italiens a diffusé de la mésinformation anti-immigration sur Facebook, et un travail du Poynter Institute sur un site usurpant l'identité d'un organe de vérification des faits pour publier de fausses nouvelles au Brésil. Sur l'IA générative, le guide cite un réseau de 125 sites d'actualité peu fiables générés par IA, mis au jour par NewsGuard. Il mentionne également les opérations russes de « usine à trolls » et ce qu'il appelle des réseaux de désinformation pro-chinois ou pro-indiens bien connus.

Le guide cite Whitney Phillips et Ryan M. Milner, auteurs de « You Are Here: A Field Guide for Navigating Polarized Speech, Conspiracy Theories, and Our Polluted Media Landscape ». Ces deux chercheurs écrivent que « l'information polluée n'apparaît jamais toute seule » et que les chercheurs doivent trianguler leurs découvertes. Le passage cité distingue trois racines possibles de cette pollution : économique, interpersonnelle et idéologique.

« La première tâche consiste à trianguler nos propres repères « vous êtes ici » sur la carte du réseau (…) Regarder les racines sous nos pieds aide à retracer l'origine de l'information polluée et la façon dont elle est arrivée là. »

Pourquoi la vision réseau compte

L'intérêt pratique d'une analyse au niveau du réseau apparaît dans les suites d'incidents précis. Après la mort de trois jeunes filles dans la ville britannique de Southport en juillet 2024, de fausses affirmations sur le nom, la religion et le statut migratoire de l'assaillant se sont répandues en quelques heures, selon CNBC. Hannah Rose, analyste des discours haineux et de l'extrémisme à l'Institute for Strategic Dialogue, a déclaré à CNBC qu'une publication sur X nommait faussement l'auteur comme « Ali al-Shakati ». À 15 heures le lendemain, ce faux nom dépassait les 30 000 mentions sur X seul.

La police a démenti ces affirmations le lendemain de leur apparition, précisant que le suspect était né en Grande-Bretagne. Mais le récit avait déjà pris de l'ampleur, rapporte CNBC. Des groupes d'extrême droite ont organisé des manifestations anti-migrants et anti-islam, qui ont dégénéré en plusieurs jours d'émeutes avec des attaques contre des mosquées, des centres d'immigration et des hôtels hébergeant des demandeurs d'asile. Rose a indiqué que lorsque les utilisateurs cherchaient « Southport » sur TikTok, le faux nom de l'assaillant était mis en avant par la plateforme elle-même dans la section « Others Searched For », y compris huit heures après que la police avait confirmé qu'il était inexact.

Joe Ondrak, responsable recherche et technologie pour le Royaume-Uni chez Logically, a déclaré à CNBC que ces fausses affirmations servent à rationaliser des préjugés et des biais préexistants avant que les faits établis n'apparaissent. Telegram a nié auprès de CNBC contribuer à la diffusion de mésinformation, affirmant que ses modérateurs suivaient la situation et supprimaient les chaînes et publications appelant à la violence.

D'autres opérations documentées sont plus vastes et plus durables. Une analyse de CNN des documents judiciaires et des déclarations publiques des réseaux sociaux a conclu que le gouvernement chinois a construit ce qu'elle décrit comme la plus grande opération de désinformation en ligne connue au monde, et qu'il l'utilise pour harceler des résidents, des politiciens et des entreprises américains. CNN a rapporté que Meta avait indiqué avoir supprimé un groupe de près de 8 000 comptes attribués à cette entité au seul deuxième trimestre de 2023. Google lui avait dit avoir fermé plus de 100 000 comptes associés ces dernières années, et X avait bloqué des centaines de milliers de comptes liés ou soutenus par l'État chinois.

Le département d'État américain a déclaré à CNN que ces tactiques s'inscrivent dans un effort plus large de plusieurs milliards de dollars visant à façonner l'environnement informationnel mondial et à faire taire les critiques de Pékin. Le réseau est connu sous le nom de « Spamouflage » ou « Dragonbridge ».

Les poussées régionales suivent le même schéma. Balkan Insight a rapporté qu'en octobre 2023, pendant le conflit entre Israël et le Hamas, de fausses affirmations se sont répandues dans les Balkans, dont l'assertion sans fondement qu'Israël avait délibérément bombardé l'église orthodoxe Saint-Porphyre à Gaza, démentie plus tard par des vérificateurs, notamment AP et AFP. Au Kosovo, une image manipulée a circulé le 20 octobre, suggérant que des supporters de l'Atlético de Madrid avaient brandi un drapeau palestinien. Un examen plus attentif a montré qu'elle avait été fabriquée numériquement à l'aide de technologies d'IA, selon Balkan Insight.

Le cas de clôture du guide est plus simple. Une étude d'universitaires en éducation de l'UC Riverside et de l'USC, publiée dans la revue New Media & Society, a constaté que les adolescents noirs et latinos déclaraient nettement plus de compétences numériques que leurs pairs blancs, notamment pour détecter la désinformation en ligne, en particulier sur les contenus liés à la race et à l'ethnicité. Avriel Epps, professeure adjointe à la School of Education de l'UC Riverside et autrice principale, a déclaré que ces compétences venaient dans de nombreux cas de l'expérience vécue du racisme en ligne plutôt que d'un enseignement scolaire.

Ce résultat contredit une étude de 2021 du Stanford History Education Group, devenu le Digital Inquiry Group, dans laquelle les élèves noirs obtenaient des scores nettement inférieurs à ceux des autres groupes raciaux et ethniques pour l'analyse de médias numériques réels. L'étude de l'UCR note que les recherches antérieures n'examinaient pas les réactions liées à la race ou au racisme.