Aller au contenu
Heure mondialeEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portail sur l'IA et la technologieactualités · analyses · entretiens · fond technique

Rechercher
EN DIRECT
›

Comment fonctionnent les réseaux de désinformation en ligne : quatre cas, une même méthode

Une vidéo de tournage d'un court métrage palestinien a été rediffusée comme preuve qu'Israël fabrique de fausses victimes. Selon le Guardian, elle a atteint environ 2m de vues sur X. Un maillon d'un système industrialisé de fabrication de mensonges à grande vitesse.

Médias & internetAnalyseSophie LeclercPublié le: 28 septembre 20269 min de lectureSources 6
Comment fonctionnent les réseaux de désinformation en ligne : quatre cas, une même méthode

La vidéo montrait un jeune garçon en t-shirt noir allongé dans une flaque de sang. Une caméra planait au-dessus de lui, un homme criait des consignes. Autour, des hommes en kippa et d'autres en treillis vert, semblables à des uniformes de Tsahal. Un utilisateur certifié l'a partagée sur X avec la légende « Vidéo montrant Israël tentant de fabriquer de fausses images de morts ». Selon le Guardian, elle a atteint environ 2m de vues. Il s'agissait d'une prise de tournage du court métrage palestinien Empty Place. La séquence semble avoir démarré sur TikTok avant de passer sur X. L'auteur de la publication a ensuite reconnu que l'extrait avait peut-être été utilisé hors contexte.

Le Guardian a rapporté ce cas en octobre 2023. Il est utile parce que chaque étape est documentée.

Les réseaux de désinformation ne forment pas un tout. Ce sont des mécanismes reproductibles. Trouver une matière première qu'on peut recontextualiser. La faire passer par des comptes qui ont de la portée. Laisser le classement de la plateforme faire la distribution. Puis compter sur une règle simple : les corrections arrivent tard et circulent mal. L'analyse couvre quatre opérations distinctes dans quatre pays, portées par quatre ensembles de motivations différents. Les mécanismes se recoupent plus que les politiques.

Des images recyclées, réétiquetées

Une autre vidéo, également issue de TikTok et désormais indisponible sur la plateforme, prétendait montrer de hauts gradés israéliens capturés par le Hamas. Elle a accumulé 2m de vues sur X. Le service de sécurité d'État de l'Azerbaïdjan l'avait publiée en premier sur sa chaîne YouTube officielle. On y voyait des anciens dirigeants arrêtés du gouvernement séparatiste du Haut-Karabakh. Un document falsifié suggérant que Joe Biden avait accordé 8 000 000 000 de dollars d'aide à Israël a été vu 400 000 fois sur X. C'était une version remaniée du mémorandum de juillet de Biden annonçant 400 000 000 de dollars d'aide à l'Ukraine. Aucun document de ce type n'existe sur le site de la Maison-Blanche ni sur ses réseaux sociaux. La Maison-Blanche a confirmé à NBC que le document était faux.

Aucun de ces cas n'exigeait de sophistication technique. Il fallait un public préparé à croire l'affirmation et une plateforme prête à la relayer.

La Russie diffuse depuis longtemps de la désinformation sur X et semble avoir exploité le conflit. Lundi, Dmitri Medvedev, ancien président russe et vice-président du Conseil de sécurité, a tweeté : « Eh bien, les amis de l'Otan, vous l'avez vraiment cherché, non ? Les armes remises au régime nazi en Ukraine servent maintenant activement contre Israël. » Un compte X lié au groupe mercenaire Wagner a publié une vidéo montrant apparemment le Hamas remercier l'Ukraine pour des ventes d'armes. Elle a été vue plus de 300 000 fois et amplifiée par des comptes d'extrême droite américains. En février, l'inspecteur général du Pentagone a rapporté l'absence de preuve, à ce jour, de détournement d'armes et d'aide destinées à l'Ukraine vers des tiers. Le renseignement ukrainien a accusé cette semaine la Russie d'avoir placé des armes occidentales « trophées », saisies sur les champs de bataille ukrainiens, entre les mains du Hamas pour saper le soutien à Kyiv. Eliot Higgins, de Bellingcat, a signalé une fausse vidéo de la BBC prétendant montrer une enquête de Bellingcat sur une contrebande d'armes ukrainiennes vers le Hamas. Des internautes russes l'ont diffusée. Higgins a déclaré qu'on ne savait pas s'il s'agissait d'une campagne étatique ou d'une initiative de base.

Quand le mensonge quitte l'écran

En juillet 2024, trois jeunes filles ont été tuées dans une attaque au couteau à Southport, au Royaume-Uni. En quelques heures, de fausses informations sur le nom, la religion et le statut migratoire de l'assaillant ont pris une ampleur considérable. Elles ont déclenché plusieurs jours d'émeutes violentes dans le pays. Hannah Rose, analyste de la haine et de l'extrémisme à l'Institute for Strategic Dialogue, a déclaré à CNBC qu'une publication sur X nommait faussement l'auteur « Ali al-Shakati », présenté comme un migrant de confession musulmane. À 15 heures le lendemain, le faux nom dépassait 30 000 mentions sur X seul.

D'autres fausses affirmations disaient que l'assaillant figurait sur une liste de surveillance des services de renseignement. Elles affirmaient qu'il était arrivé au Royaume-Uni sur un petit bateau en 2023 et qu'il était connu des services locaux de santé mentale, selon l'analyse de l'ISD. La police a démenti ces affirmations le lendemain de leur apparition, précisant que le suspect était né en Grande-Bretagne. À ce moment, le récit était déjà lancé.

Joe Ondrak, responsable recherche et technologie pour le Royaume-Uni chez Logically, a déclaré à CNBC que ces fausses informations servaient de « moyen de rationaliser et de renforcer des préjugés, des biais et des spéculations préexistants avant que la moindre vérité établie puisse circuler ». Il a qualifié ces contenus d'« herbe à chat » pour les groupes anti-immigration : « C'est exactement ce qu'il faut dire pour provoquer une réaction bien plus violente qu'elle ne l'aurait été sans la diffusion de la désinformation. »

Le volet distribution compte autant que l'affirmation. Rose a indiqué que des comptes comptant des centaines de milliers d'abonnés ont partagé les fausses informations, avec les badges bleus payants de X. Les algorithmes de la plateforme les ont ensuite poussées vers d'autres utilisateurs. Quand les internautes cherchaient « Southport » sur TikTok, la plateforme elle-même mettait en avant le faux nom de l'assaillant dans la rubrique « Others Searched For ». Y compris huit heures après que la police eut confirmé que l'information était fausse. L'ISD a observé un comportement algorithmique similaire sur X, où le nom erroné est devenu tendance. Les affirmations ont aussi atteint Telegram. Ondrak a expliqué que la messagerie consolide les récits et expose davantage de personnes à des « convictions plus dures ». Telegram a nié faciliter la diffusion de fausses informations. La société a affirmé que ses modérateurs surveillaient la situation et supprimaient les chaînes et publications appelant à la violence, interdites par ses conditions d'utilisation. Certains comptes appelant à participer aux manifestations remontaient à l'extrême droite, selon Logically. Dont certains liés au groupe interdit National Action, désigné organisation terroriste en 2016 au titre du Terrorism Act britannique.

La plus vaste opération connue

L'échelle change la donne. Une revue par CNN de documents judiciaires et de déclarations publiques d'entreprises de réseaux sociaux a conclu que le gouvernement chinois a bâti la plus vaste opération de désinformation en ligne connue au monde. Il l'utilise pour harceler des résidents américains, des responsables politiques et des entreprises, menaçant parfois des cibles de violences. Le réseau, appelé « Spamouflage » ou « Dragonbridge », compte des centaines de milliers de comptes sur toutes les grandes plateformes. Le département d'État américain décrit ces tactiques comme une partie d'un effort plus large de plusieurs milliards de dollars visant à façonner l'environnement informationnel mondial et à faire taire les critiques de Pékin. Il affirme que cet effort s'est étendu sous le président Xi Jinping.

Des victimes ont décrit un déluge de dizaines de milliers de publications les traitant de traîtres, de chiens, avec des insultes racistes et homophobes. Certaines ont parlé aux forces de l'ordre, dont le FBI, mais peu a été fait, rapporte CNN. Les plateformes ont fermé des milliers de comptes ciblant ces victimes, mais sont dépassées par les nouveaux qui apparaissent chaque jour. Meta a indiqué en août avoir supprimé un groupe de près de 8 000 comptes attribués à l'organisation au seul deuxième trimestre de 2023. Google a déclaré à CNN avoir fermé plus de 100 000 comptes associés ces dernières années. X a bloqué des centaines de milliers de comptes chinois « soutenus par l'État » ou « liés à l'État », selon les blogs de l'entreprise.

Des chercheurs privés suivent le réseau depuis sa découverte il y a plus de quatre ans. Ce n'est que ces derniers mois que des procureurs fédéraux et Meta ont publiquement conclu que l'opération avait des liens avec la police chinoise. Le représentant Mike Gallagher, président du comité restreint de la Chambre sur le PCC, a déclaré à CNN : « On pourrait croire que cela se limite à certaines salles de discussion, ou à telle ou telle plateforme, mais cela s'étend partout. Et ce n'est qu'une question de temps avant que cela arrive à ce citoyen américain moyen qui pense que ce n'est pas son problème aujourd'hui. »

Chen Pokong, militant basé à New York, a vu des trolls perturber un événement Zoom anticommuniste qu'il avait organisé en janvier 2021. Ils ont raillé les participants et menacé qu'une victime « mourrait misérablement ». Ses soupçons sur les commanditaires se sont confirmés plus tôt cette année. Le département de la Justice a alors inculpé plus de 30 responsables chinois pour une vaste opération de désinformation visant des dissidents aux États-Unis, dont des personnes présentes à cette réunion Zoom.

Ce que disent les publics

L'inquiétude publique n'est pas marginale. Une enquête Ipsos commandée par l'Unesco a couvert 8 000 personnes dans 16 pays devant tenir des élections nationales, soit 2 500 000 000 d'électeurs au total. Elle a montré que 85 % se disaient préoccupés par l'influence de la désinformation en ligne. 87 % affirmaient qu'elle avait déjà eu un impact majeur sur la vie politique nationale. Cinquante-six pour cent des internautes s'informaient principalement sur les réseaux sociaux, davantage que par la télévision (44 %) ou les sites d'information (29 %). La confiance dans les réseaux sociaux atteignait 50 %, contre 66 % pour la télévision, 63 % pour la radio et 57 % pour les sites et applications d'information. Dans les 16 pays, 68 % désignaient les réseaux sociaux comme le lieu où les fausses nouvelles sont les plus répandues, devant les applications de messagerie à 38 %.

Audrey Azoulay, directrice générale de l'Unesco, a déclaré aux journalistes que les fausses informations et les discours de haine en ligne, accélérés et amplifiés par les plateformes, présentaient des « risques majeurs pour la cohésion sociale, la paix et la stabilité ». Une régulation était urgente, a-t-elle dit, « pour protéger l'accès à l'information ... tout en protégeant la liberté d'expression et les droits humains ». Le projet de l'Unesco repose sur sept principes, tirés de ce qu'elle appelle une consultation sans précédent de plus de 10 000 contributions venues de 134 pays sur 18 mois. Guilherme Canela de Souza Godoi, chef de la section liberté d'expression de l'Unesco, a indiqué que plus de 50 pays régulaient déjà les réseaux sociaux, souvent sans respecter les normes internationales en matière de liberté d'expression et de droits humains. L'Unesco prévoit une conférence mondiale des régulateurs en 2024.

La régulation a aussi ses partisans. Le sénateur Sheldon Whitehouse a appelé à abroger la section 230 du Communications Decency Act et à la remplacer par une version plus étroite qui imposerait la « divulgation des financeurs de la désinformation », selon Reclaim The Net. Whitehouse soutient que le risque de responsabilité pourrait pousser les entreprises à agir contre la désinformation, même au prix de l'engagement. Des critiques répondent que l'essentiel de la désinformation relèverait de la parole protégée.

Aucun de ces débats ne change l'arithmétique opérationnelle. La couverture du Guardian sur X note que Musk a dissous le Trust and Safety Council de la plateforme après son rachat de 2022. L'entreprise a dit prévoir de réorganiser l'équipe, mais les plans restent flous. X a lancé Community Notes, un programme de modération participative qui fait peser une grande partie de la charge sur les utilisateurs plutôt que sur des modérateurs salariés. L'Union of Concerned Scientists, citant le Center for Countering Digital Hate, a rapporté que X « continue d'héberger près de 86 % d'un ensemble de 300 publications haineuses une semaine après que nous les avons signalées ». La chercheuse Abbie Richards a constaté que les tweets négationnistes climatiques sont passés d'une moyenne de 30 000 par semaine entre décembre 2021 et juillet 2022 à près de 110 000 par semaine après juillet 2022.

Le schéma est le même dans les quatre cas. Une affirmation est fabriquée ou recyclée. Elle est semée via des comptes qui ont de la portée. Des systèmes réglés pour l'engagement la font monter. La correction arrive après les dégâts. Comme l'a montré l'affaire de Southport, la correction peut arriver en une journée. L'émeute a quand même eu lieu.

Commentaires 0

Sources

6
  1. 01How Israel-Hamas war disinformation is being spread onlineEN
  2. 0285% of people worry about online disinformation, global survey findsEN
  3. 03Online disinformation sparked a wave of far-right violence in the UKEN
  4. 04China is using the world's largest online disinformation operation to harass AmericansEN
  5. 05Senator Sheldon Whitehouse: Repeal Section 230 to combat online "disinformation"EN
  6. 06For Online Disinformation and Hate, X Marks the SpotEN

Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.

Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.

Sophie Leclerc

Sophie Leclerc

IA, modèles et technologies

Sophie Leclerc couvre les technologies, l'IA et les modèles ainsi que les médias et l'internet pour FLASH24, en travaillant à partir des dépôts de code, des articles scientifiques et des documents techniques plutôt que des annonces. Elle vérifie chaque chiffre en remontant aux jeux de données d'origine et en comparant les versions successives des modèles. Elle interroge régulièrement des ingénieurs et des chercheurs, et suit les calendriers de publication des principales conférences du secteur. Son intérêt personnel pour l'auto-hébergement et les réseaux domestiques nourrit directement sa couverture des infrastructures et des modèles ouverts. Elle ne publie pas de performance annoncée sans méthode de mesure vérifiable.

Rédaction →

Commentaires

0
  1. Aucun commentaire — soyez le premier.

Écrire un commentaire

Les commentaires sont publics. Nous ne publions ni insultes, ni spam, ni publicité.