Aller au contenu
Heure mondialeEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portail sur l'IA et la technologieactualités · analyses · entretiens · fond technique

Rechercher
EN DIRECT
›

Dans les réseaux de désinformation : de Southport à Spamouflage

Un extrait des coulisses d'un court métrage palestinien, republié comme preuve qu'Israël met en scène ses victimes, a été vu environ deux millions de fois sur X dans les jours qui ont suivi l'attaque du Hamas le 7 octobre. C'est l'un des premiers faux viraux d'une guerre qui n'a cessé d'en produire, et il a fixé le modèle de fonctionnement des réseaux de désinformation en ligne.

Médias & internetAnalyseSophie LeclercPublié le: 28 septembre 202610 min de lectureSources 6
Dans les réseaux de désinformation : de Southport à Spamouflage

La vidéo montrait un garçon en t-shirt noir allongé dans une flaque de sang, une caméra au-dessus de lui, un homme qui criait des consignes. Autour, des hommes en kippa et d'autres en treillis verts ressemblant à des uniformes de Tsahal. Un utilisateur certifié de X l'a partagée avec cette légende : « Vidéo montrant Israël en train de fabriquer de fausses images de morts. » Le Guardian a identifié la séquence comme un plan des coulisses de Empty Place, un court métrage palestinien sur le vide laissé par les Palestiniens qui ont fui l'occupation israélienne. Elle a démarré sur TikTok avant de passer sur X. La publication TikTok d'origine n'est plus disponible, mais la version détournée a continué de circuler et d'accumuler les vues. L'utilisateur à l'origine du post aux deux millions de vues a ensuite reconnu que l'extrait avait peut-être été utilisé hors contexte.

L'histoire compte moins pour ce qu'elle dit d'une vidéo que pour ce qu'elle révèle d'une chaîne d'approvisionnement. Une séquence authentique, privée de son contexte, devient la preuve d'une affirmation qu'elle n'a jamais eu pour but de soutenir. La correction, quand elle arrive, tombe tard et circule mal.

Des réseaux, pas des internautes isolés

En quelques jours après l'attaque du 7 octobre, X a été submergé de contenus du même genre. Une deuxième vidéo, également issue de TikTok et aujourd'hui indisponible sur la plateforme, a cumulé deux millions de vues sur X en prétendant montrer de hauts gradés israéliens capturés par des combattants du Hamas. En réalité, selon le Guardian, le service de sécurité d'État de l'Azerbaïdjan l'avait publiée quelques jours plus tôt sur sa chaîne YouTube officielle. On y voyait des anciens dirigeants arrêtés du gouvernement séparatiste du Haut-Karabakh. Un document falsifié suggérant que Joe Biden avait accordé 8 000 000 000 de dollars d'aide à Israël a été vu 400 000 fois sur X. Il s'agissait d'une version modifiée de sa note de juillet annonçant 400 000 000 de dollars d'aide à l'Ukraine. La Maison-Blanche a confirmé à NBC que le document était faux. Le fil commun n'est pas une idéologie unique mais une méthode : prendre un matériau réel, le réétiqueter, et laisser la distribution de la plateforme faire le reste.

La Russie diffuse depuis longtemps de la désinformation sur X et semble avoir exploité le conflit israélo-palestinien, rapporte le Guardian. Le lundi suivant l'attaque, l'ancien président russe Dmitri Medvedev, vice-président du Conseil de sécurité russe, a tweeté : « Eh bien, les amis de l'Otan, vous avez vraiment compris, non ? Les armes remises au régime nazi en Ukraine servent maintenant activement contre Israël. » Séparément, un compte X lié au groupe mercenaire Wagner a publié une vidéo montrant apparemment le Hamas remerciant l'Ukraine pour des armes qu'il comptait utiliser contre Israël. Elle a dépassé les 300 000 vues et des comptes d'extrême droite américains l'ont amplifiée.

Le camp ukrainien a répliqué. Le renseignement ukrainien a accusé la Russie d'avoir placé des armes occidentales « trophées » saisies sur les champs de bataille en Ukraine entre les mains du Hamas pour saper le soutien à Kyiv. En février, l'inspecteur général du Pentagone avait indiqué qu'aucune preuve n'existait à ce jour d'un détournement d'armes et d'aide destinées à l'Ukraine vers des tiers. Eliot Higgins, fondateur du média d'investigation Bellingcat, a signalé une fausse vidéo censée émaner de la BBC. Elle prétendait présenter une enquête de Bellingcat sur une contrebande d'armes ukrainiennes vers le Hamas. Higgins a déclaré que des internautes russes la relayaient, tout en précisant qu'on ne savait pas s'il s'agissait d'une campagne du gouvernement russe ou d'une initiative spontanée. Cette réserve mérite d'être gardée. L'attribution est la partie la plus difficile de ce travail, et les affirmations les plus bruyantes s'accompagnent souvent des preuves les plus minces.

Quand le faux nom devient un sujet tendance

Les émeutes britanniques d'août 2024 ont montré ce qui se passe quand un réseau tombe sur une histoire qui colle à un ressentiment existant. Après la mort de trois fillettes dans une attaque au couteau à Southport en juillet, de fausses informations sur le nom, la religion et le statut migratoire de l'assaillant sont apparues en quelques heures. « En s'appuyant sur une publication LinkedIn, un post sur X a faussement nommé l'auteur comme “Ali al-Shakati”, présenté comme un migrant de confession musulmane. Dès 15 heures le lendemain, le faux nom dépassait les 30 000 mentions sur X seul », a déclaré Hannah Rose, analyste de la haine et de l'extrémisme à l'Institute for Strategic Dialogue, à CNBC par courriel. D'autres posts affirmaient que l'assaillant figurait sur une liste de surveillance des services de renseignement, qu'il était arrivé sur un petit bateau en 2023 et qu'il était connu des services locaux de santé mentale, selon l'analyse de l'ISD. La police a démenti ces affirmations le lendemain de leur apparition, précisant que le suspect était né en Grande-Bretagne. À ce moment-là, le récit avait déjà pris.

Des groupes d'extrême droite ont organisé des manifestations anti-migrants et anti-islam, dont un rassemblement à la veille de la marche blanche prévue pour les fillettes. Les démonstrations ont dégénéré en plusieurs jours d'émeutes, avec des attaques contre des mosquées, des centres d'immigration et des hôtels hébergeant des demandeurs d'asile. Joe Ondrak, responsable recherche et technologie pour le Royaume-Uni chez l'entreprise technologique Logically, a déclaré à CNBC que ces fausses affirmations étaient de « l'herbe à chat » pour des groupes déjà prêts à réagir. « Ce n'est pas un cas où cette fausse affirmation sort et puis, vous savez, tout le monde y croit », a-t-il dit. Les posts ont plutôt servi de « moyen de rationaliser et de renforcer des préjugés, des biais et des spéculations préexistants avant que quelque vérité établie que ce soit ne puisse émerger ».

L'algorithme n'a pas seulement échoué à l'arrêter. Dans au moins un cas, il l'a recommandé.

Les mécanismes des plateformes ont amplifié le mensonge d'une manière facile à manquer si l'on regarde seulement qui a publié. Rose a déclaré à CNBC que des comptes suivis par des centaines de milliers de personnes et dotés de coches bleues payantes avaient partagé les fausses informations, que les algorithmes ont ensuite poussées. Sur TikTok, quand les utilisateurs cherchaient « Southport », la rubrique « Others Searched For », qui recommande des contenus similaires, mettait en avant le faux nom de l'assaillant. Y compris huit heures après que la police avait confirmé qu'il était erroné. L'analyse de l'ISD a constaté un comportement similaire sur X, où le nom incorrect figurait comme sujet tendance. Les fausses affirmations ont aussi gagné Telegram, qu'Ondrak décrit comme un lieu qui consolide les récits et expose davantage de gens à des « convictions plus radicales », y compris des canaux nés antivaccins et récupérés par des figures d'extrême droite. Telegram a dit à CNBC démentir aider à la diffusion de fausses informations, assurant que ses modérateurs surveillaient la situation et supprimaient les canaux et les posts appelant à la violence.

Certains comptes appelant à participer aux manifestations pouvaient être reliés à l'extrême droite, selon l'analyse de Logically. Certains étaient liés au groupe interdit National Action, désigné organisation terroriste en 2016 au titre du Terrorism Act britannique. L'Online Safety Act britannique était censé traiter les discours de haine, mais il n'est entré en vigueur qu'au début de l'année suivante et pourrait ne pas suffire face à certaines formes de désinformation. Le mercredi suivant le plus fort des émeutes, le régulateur des médias Ofcom a écrit aux plateformes pour leur dire qu'elles ne devaient pas attendre l'entrée en vigueur de la nouvelle loi. À ce moment-là, des milliers de manifestants antiracistes s'étaient rassemblés dans des villes et des bourgades du Royaume-Uni, surpassant en nombre les démonstrations anti-immigration.

La plus grande opération connue

Tous les réseaux ne s'improvisent pas autour d'un fait divers. CNN a rapporté en novembre 2023 que le gouvernement chinois avait bâti la plus grande opération de désinformation en ligne connue au monde. Il l'utilisait pour harceler des résidents américains, des responsables politiques et des entreprises, menaçant parfois les cibles de violences. L'enquête s'appuyait sur l'examen de documents judiciaires et de déclarations publiques de réseaux sociaux. Des victimes ont décrit un déluge de dizaines de milliers de posts les traitant de traîtres, de chiens, avec des insultes racistes et homophobes. Certaines s'étaient adressées aux forces de l'ordre, dont le FBI, sans grand résultat. Les entreprises technologiques et les réseaux sociaux avaient fermé des milliers de comptes, mais de nouveaux apparaissaient pratiquement chaque jour.

Le réseau est suivi sous les noms de « Spamouflage » et « Dragonbridge ». Ses centaines de milliers de comptes se répartissent sur toutes les grandes plateformes. Ils harcèlent les Américains qui critiquent le Parti communiste chinois, cherchent à discréditer des responsables politiques américains, dénigrent les entreprises américaines en conflit avec les intérêts de la Chine et détournent les conversations en ligne susceptibles de présenter le PCC sous un jour négatif. Des chercheurs privés le suivent depuis sa découverte, il y a plus de quatre ans. Ce n'est que ces derniers mois que des procureurs fédéraux et Meta ont publiquement conclu que l'opération avait des liens avec la police chinoise. Meta a indiqué en août avoir supprimé un groupe de près de 8 000 comptes attribués à l'organisation au seul deuxième trimestre de 2023. Google, propriétaire de YouTube, a dit à CNN avoir fermé plus de 100 000 comptes associés ces dernières années. X a bloqué des centaines de milliers de comptes chinois « soutenus par l'État » ou « liés à l'État », selon les blogs de l'entreprise.

L'échelle est le but. Des coûts d'exploitation faibles permettent aux réseaux d'absorber les suppressions et de se reconstruire. « On pourrait croire que cela se limite à certaines messageries, ou à telle ou telle plateforme, mais cela s'étend partout », a déclaré à CNN le représentant Mike Gallagher, président de la commission restreinte de la Chambre sur le PCC. « Et ce n'est qu'une question de temps avant que cela n'arrive à ce citoyen américain moyen qui pense que ce n'est pas son problème pour l'instant. » Le département d'État américain a décrit ces tactiques comme une partie d'un effort plus large de plusieurs milliards de dollars visant à façonner l'environnement informationnel mondial et à faire taire les critiques de Pékin. Il affirme que cet effort s'est étendu sous la présidence de Xi Jinping.

Ce que les publics disent vouloir

L'inquiétude du public n'est pas une position marginale. Une enquête Ipsos commandée par l'Unesco auprès de 8 000 personnes dans 16 pays appelés à tenir des élections nationales en 2024, représentant au total 2 500 000 000 d'électeurs, a trouvé que 85 % s'inquiétaient de l'influence de la désinformation en ligne. Elle a trouvé que 87 % estimaient qu'elle avait eu un impact majeur sur la vie politique nationale. Les réseaux sociaux étaient la principale source d'information pour 56 % des internautes, devant la télévision à 44 % et les sites de médias à 29 %, même si la confiance y était plus faible : 50 % contre 66 % pour la télévision, 63 % pour la radio et 57 % pour les sites et applications de médias. Dans les 16 pays, 68 % disaient que les réseaux sociaux étaient là où les fausses nouvelles se répandaient le plus, devant les applications de messagerie à 38 %.

Audrey Azoulay, directrice générale de l'Unesco, a déclaré aux journalistes que les fausses informations et les discours de haine en ligne, accélérés et amplifiés par les plateformes, posaient des « risques majeurs pour la cohésion sociale, la paix et la stabilité ». Une régulation était urgente « pour protéger l'accès à l'information ... tout en protégeant la liberté d'expression et les droits humains », a-t-elle dit, en présentant un plan directeur de gouvernance. L'Unesco a indiqué que plus de 50 pays régulaient déjà les réseaux sociaux, mais souvent sans respecter les normes internationales en matière de liberté d'expression et de droits humains. Elle a précisé qu'au moins une grande plateforme avait dit à l'organisation de 194 membres qu'elle préférait un cadre mondial cohérent à un patchwork de systèmes nationaux. L'organisation prévoit une Conférence mondiale des régulateurs en 2024.

Le combat politique n'est pas tranché, et une partie va à l'encontre du modèle économique des plateformes. Le sénateur Sheldon Whitehouse plaide pour l'abrogation de la section 230 du Communications Decency Act. Il la remplacerait par une version plus étroite qui imposerait la « divulgation des financeurs de la désinformation ». Il a écrit que la menace d'une responsabilité juridique « pourrait rendre Facebook et d'autres entreprises plus enclines à adopter des mesures qui arrêtent la propagation de la mésinformation, même si elles réduisent aussi l'engagement des utilisateurs, car ne pas agir comporterait ses propres risques financiers ». Les critiques de cette approche estiment qu'une grande partie de la désinformation finirait protégée par le premier amendement. Les deux camps débattent de la même chose : qui paie quand un mensonge voyage plus vite que la correction.

Ce que ces affaires ont en commun, c'est une division du travail. Quelqu'un produit la fausse affirmation, souvent en détournant un matériau réel. Quelqu'un qui a de la portée la publie. Les algorithmes décident jusqu'où elle va. Les régulateurs arrivent après coup, quand ils arrivent. Et les personnes les plus susceptibles d'être visées, des habitants de Southport aux dissidents chinois aux États-Unis, sont celles qui ont le moins de prise sur tout cela.

Commentaires 0

Sources

6
  1. 01How Israel-Hamas war disinformation is being spread onlineEN
  2. 0285% of people worry about online disinformation, global survey findsEN
  3. 03Online disinformation sparked a wave of far-right violence in the UKEN
  4. 04China is using the world's largest online disinformation operation to harass Americans, a CNN review findsEN
  5. 05Senator Sheldon Whitehouse wants to repeal Section 230 to combat online "disinformation"EN
  6. 06For Online Disinformation and Hate, X Marks the SpotEN

Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.

Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.

Sophie Leclerc

Sophie Leclerc

IA, modèles et technologies

Sophie Leclerc couvre les technologies, l'IA et les modèles ainsi que les médias et l'internet pour FLASH24, en travaillant à partir des dépôts de code, des articles scientifiques et des documents techniques plutôt que des annonces. Elle vérifie chaque chiffre en remontant aux jeux de données d'origine et en comparant les versions successives des modèles. Elle interroge régulièrement des ingénieurs et des chercheurs, et suit les calendriers de publication des principales conférences du secteur. Son intérêt personnel pour l'auto-hébergement et les réseaux domestiques nourrit directement sa couverture des infrastructures et des modèles ouverts. Elle ne publie pas de performance annoncée sans méthode de mesure vérifiable.

Rédaction →

Commentaires

0
  1. Aucun commentaire — soyez le premier.

Écrire un commentaire

Les commentaires sont publics. Nous ne publions ni insultes, ni spam, ni publicité.