Aller au contenu
Heure mondialeEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portail sur l'IA et la technologieactualités · analyses · entretiens · fond technique

Rechercher
EN DIRECT
›

Anatomie d'un réseau de désinformation en ligne : ce que montrent quatre cas documentés

Un extrait des coulisses d'un court métrage palestinien, recyclé comme preuve qu'Israël met en scène de fausses morts, a été vu environ 2m de fois sur X. Des chercheurs et des rédactions ont relié plusieurs affirmations fausses de ce type à des réseaux identifiables, et non à des erreurs spontanées d'internautes.

Médias & internetAnalyseSophie LeclercPublié le: 27 septembre 20265 min de lectureSources 4
Anatomie d'un réseau de désinformation en ligne : ce que montrent quatre cas documentés

La recherche sur la désinformation obtient rarement une vue nette du mécanisme d'un réseau. Entre octobre 2023 et août 2024, plusieurs affaires ont justement offert cela : des affirmations fausses documentées, une portée mesurable et des acteurs nommés. Ensemble, elles montrent comment se fabriquent, se diffusent et se monétisent les opérations d'influence modernes.

L'exemple le plus clair date des premiers jours de la guerre entre Israël et le Hamas. Selon le Guardian, une vidéo montrait un garçon en t-shirt noir allongé dans ce qui semblait être du sang, entouré d'une caméra et d'hommes en kippa et en treillis verts. Elle a été publiée sur X avec la légende « Video showing Israel attempting to create fake footage of deaths ». Elle a été vue environ 2m de fois. La séquence provenait en réalité d'un tournage de coulisses d'Empty Place, un court métrage palestinien sur le vide laissé par les Palestiniens qui ont fui l'occupation israélienne. L'utilisateur qui l'a publiée a ensuite reconnu qu'elle avait pu être utilisée hors contexte.

Ce cas n'était pas isolé.

Une deuxième vidéo, également issue de TikTok, prétendait montrer de hauts gradés israéliens capturés par le Hamas. Elle a cumulé 2m de vues sur X. Les images avaient en fait été publiées par la chaîne YouTube officielle du service de sécurité d'État de l'Azerbaïdjan. Elles montraient des anciens dirigeants arrêtés du gouvernement séparatiste du Haut-Karabakh. Un mémo falsifié suggérant que Joe Biden avait accordé 8 000 000 000 dollars d'aide à Israël a été vu 400 000 fois. Le Guardian rapporte qu'il s'agissait d'une version retouchée du mémo de juillet de Biden annonçant 400 000 000 dollars d'aide à l'Ukraine. La Maison-Blanche a confirmé à NBC que le document était faux. Une quatrième vidéo, montrant apparemment le Hamas remerciant l'Ukraine pour des armes, a été publiée par un compte lié au groupe mercenaire russe Wagner et vue plus de 300 000 fois.

Les mécanismes comptent autant que les mensonges. Sur X, le Trust and Safety Council a été dissous après le rachat par Elon Musk en 2022. L'entreprise s'appuie depuis sur Community Notes, un programme de modération participative qui fait peser sur les utilisateurs la charge de corriger les faits. La Commission européenne a envoyé mardi une lettre à Musk pour l'avertir au sujet de désinformation présumée sur l'attaque du Hamas, y compris de fausses nouvelles et des « images anciennes réutilisées ». Le Guardian rapporte que X coopère avec la demande d'information de l'UE.

Pat de Brún, d'Amnesty Tech, a déclaré au Guardian que des plateformes comme Meta et X ont « des responsabilités claires au regard des normes internationales des droits humains ». Ces responsabilités s'accroissent en temps de crise et de conflit. « Pourtant, bien trop souvent, les grandes entreprises technologiques n'ont pas assumé leurs obligations face à de telles urgences », a déclaré de Brún, selon le journal.

Les émeutes britanniques d'août 2024 ont montré ce qui se passe quand ces défaillances rencontrent une histoire locale explosive. Après la mort de trois jeunes filles à Southport en juillet, de fausses affirmations sur le nom, la religion et le statut migratoire de l'assaillant se sont répandues en quelques heures. Hannah Rose, de l'Institute for Strategic Dialogue, a déclaré à CNBC qu'un post sur X nommait faussement l'auteur comme « Ali al-Shakati », présenté comme un migrant de confession musulmane. Le lendemain à 15 heures, le faux nom dépassait 30 000 mentions sur X seul. La police a démenti ces affirmations le lendemain de leur apparition, précisant que le suspect était né en Grande-Bretagne. Mais le récit avait déjà pris.

La recommandation algorithmique a fait une partie du travail. Rose a indiqué que lorsque les utilisateurs cherchaient « Southport » sur TikTok, la section « Others Searched For » de la plateforme mettait en avant le faux nom de l'assaillant. Y compris huit heures après que la police eut confirmé que l'information était erronée. L'ISD a constaté des effets similaires sur X, où le nom est devenu tendance.

Joe Ondrak, de Logically, a déclaré à CNBC que ces fausses informations servaient de « moyen de rationaliser et de renforcer des préjugés, des biais et des spéculations déjà présents avant que la moindre vérité établie puisse circuler ». Il a qualifié ces affirmations d'« herbe à chat » pour les groupes anti-migration : « C'est vraiment exactement ce qu'il faut dire pour provoquer une réaction bien plus violente qu'il n'y en aurait eu si la désinformation n'avait pas circulé. »

Telegram a joué un rôle de consolidation, selon Ondrak. La plateforme a fait converger les affirmations vers des canaux nés comme communautés anti-vaccins et récupérés par des figures d'extrême droite. Telegram a nié avoir contribué à diffuser de la désinformation. L'entreprise a affirmé que ses modérateurs supprimaient les canaux et les posts appelant à la violence. L'analyse de Logically a relié au moins certains comptes appelant à participer aux manifestations à l'extrême droite. Y compris des liens vers National Action, interdite comme organisation terroriste en 2016 en vertu du Terrorism Act britannique.

L'opération chinoise est plus vaste et plus industrielle. CNN a rapporté en novembre 2023 que le gouvernement chinois avait bâti la plus grande opération de désinformation en ligne connue au monde. Elle est appelée « Spamouflage » ou « Dragonbridge », avec des centaines de milliers de comptes servant à harceler des résidents américains, des responsables politiques et des entreprises. Meta a déclaré avoir supprimé un groupe de près de 8 000 comptes au seul deuxième trimestre 2023. Google a dit à CNN avoir fermé plus de 100 000 comptes associés ces dernières années. X a affirmé avoir bloqué des centaines de milliers de comptes chinois « soutenus par l'État » ou « liés à l'État ». Le département d'État américain a décrit ces tactiques comme une partie d'un effort de plusieurs milliards de dollars visant à façonner l'environnement informationnel mondial.

L'inquiétude du public est large, sinon toujours bien informée. Une enquête Ipsos commandée par l'Unesco auprès de 8 000 personnes dans 16 pays devant tenir des élections en 2024 a trouvé que 85 % se disaient inquiètes de l'influence de la désinformation en ligne. 87 % affirmaient qu'elle avait déjà nui à la politique de leur pays. Les réseaux sociaux étaient la principale source d'information pour 56 % des internautes, devant la télévision à 44 %, alors même que la confiance y est plus faible : 50 % contre 66 % pour la télévision.

La réponse de l'Unesco a été un plan de gouvernance en sept principes, tiré de plus de 10 000 contributions dans 134 pays sur 18 mois. Guilherme Canela de Souza Godoi, chef de section pour la liberté d'expression de l'organisme, a noté que plus de 50 pays régulent déjà les réseaux sociaux, souvent en dehors des normes internationales de liberté d'expression. Une Conférence mondiale des régulateurs était prévue pour 2024.

Ce que ces quatre cas partagent, c'est un schéma plutôt qu'un acteur unique : des images anciennes, des documents recyclés, une poignée de comptes à forte portée et des systèmes de recommandation qui maintiennent les affirmations fausses visibles après les démentis. La portée est mesurable. Le nettoyage, lui, ne l'est pas encore.

Commentaires 0

Sources

4
  1. 01How Israel-Hamas war disinformation is being spread onlineEN
  2. 02Online disinformation sparked a wave of far-right violence in the UKEN
  3. 03China is using the world's largest online disinformation operation to harass AmericansEN
  4. 0485% of people worry about online disinformation, global survey findsEN

Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.

Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.

Sophie Leclerc

Sophie Leclerc

IA, modèles et technologies

Sophie Leclerc couvre les technologies, l'IA et les modèles ainsi que les médias et l'internet pour FLASH24, en travaillant à partir des dépôts de code, des articles scientifiques et des documents techniques plutôt que des annonces. Elle vérifie chaque chiffre en remontant aux jeux de données d'origine et en comparant les versions successives des modèles. Elle interroge régulièrement des ingénieurs et des chercheurs, et suit les calendriers de publication des principales conférences du secteur. Son intérêt personnel pour l'auto-hébergement et les réseaux domestiques nourrit directement sa couverture des infrastructures et des modèles ouverts. Elle ne publie pas de performance annoncée sans méthode de mesure vérifiable.

Rédaction →

Commentaires

0
  1. Aucun commentaire — soyez le premier.

Écrire un commentaire

Les commentaires sont publics. Nous ne publions ni insultes, ni spam, ni publicité.