Aller au contenu
Heure mondialeEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portail sur l'IA et la technologieactualités · analyses · entretiens · fond technique

Rechercher
EN DIRECT
›

Comment fonctionnent les réseaux de désinformation en ligne, et pourquoi ils continuent de gagner

Un extrait des coulisses d'un court métrage palestinien a été vu environ 2m de fois sur X, rapporte le Guardian. La légende disait « Vidéo montrant Israël tentant de fabriquer de fausses images de morts ». La séquence était authentique. L'affirmation ne l'était pas.

Médias & internetExpliquéCamille RousseauPublié le: 28 septembre 20268 min de lectureSources 6
Comment fonctionnent les réseaux de désinformation en ligne, et pourquoi ils continuent de gagner

Le Guardian a rapporté ce post le 11 octobre 2023. Il offre un bon point de départ pour comprendre comment opèrent les réseaux de désinformation en ligne. Ils inventent rarement du matériel à partir de rien. Ils prennent des images réelles, les glissent dans un cadre faux, et laissent la plateforme faire le reste.

La même enquête du Guardian a recensé d'autres exemples des jours qui ont suivi l'attaque du Hamas contre Israël, le samedi 7 octobre. Une vidéo venait de la chaîne YouTube officielle du service de sécurité d'État de l'Azerbaïdjan. Elle montrait des anciens dirigeants arrêtés du gouvernement séparatiste du Haut-Karabakh. Elle a été republiée sur X comme des images de généraux israéliens capturés et a accumulé 2m de vues. Une note de la Maison-Blanche falsifiée, présentée comme Joe Biden donnant 8 000 000 000 de dollars à Israël, a été vue 400 000 fois. Selon le Guardian, il s'agissait d'une version modifiée de sa note de juillet annonçant 400 000 000 de dollars d'aide à l'Ukraine. La Maison-Blanche a confirmé à NBC que le document était faux.

Quatre pièces mobiles, pas une

Les enquêtes convergent vers une structure récurrente. D'abord la matière première : une image, une vidéo, un document ou un événement d'actualité authentique. Ensuite le cadre : une légende, un nom, une nationalité, une religion. Puis la diffusion : de grands comptes, la vérification payante et les systèmes de recommandation. Ces derniers font remonter le cadre faux devant des gens qui ne le cherchaient pas. Enfin le décalage : la correction arrive après que le récit s'est déjà durci.

L'affaire de Southport, en juillet 2024, montre clairement ce décalage. Une attaque au couteau a tué trois jeunes filles. En quelques heures, de fausses affirmations sur le nom, la religion et le statut migratoire de l'assaillant se sont répandues en ligne. Hannah Rose est analyste de la haine et de l'extrémisme à l'Institute for Strategic Dialogue. Elle a déclaré à CNBC qu'un post sur X nommait faussement l'auteur comme « Ali al-Shakati », présenté comme un migrant de confession musulmane. Selon elle, à 15 heures le lendemain, le faux nom dépassait 30 000 mentions sur X seul. La police a démenti ces affirmations le lendemain de leur apparition. Elle a indiqué que le suspect était né en Grande-Bretagne, mais le récit avait déjà pris de l'ampleur. Des groupes d'extrême droite ont organisé des manifestations anti-migrants et anti-islam. Elles ont dégénéré en plusieurs jours d'émeutes et d'attaques contre des mosquées, des centres d'immigration et des hôtels hébergeant des demandeurs d'asile.

Rose a aussi décrit comment les mécanismes des plateformes ont amplifié le faux nom plutôt que de simplement l'héberger. Elle a expliqué que lorsque les utilisateurs cherchaient « Southport » sur TikTok, la section « Others Searched For » mettait en avant le faux nom de l'assaillant. Cela s'est produit y compris 8 heures après que la police eut confirmé que l'information était incorrecte. L'analyse de l'ISD a constaté que les algorithmes fonctionnaient de la même manière sur X, où le nom erroné figurait comme sujet tendance.

Pourquoi les faux cadres circulent

Joe Ondrak est responsable de la recherche et de la technologie pour le Royaume-Uni chez Logically. Il a déclaré à CNBC que les affirmations de Southport faisaient office d'« herbe à chat » pour des publics déjà préparés par des années de rhétorique anti-migration. « Ce n'est pas le cas d'une fausse affirmation qui sort et puis, vous savez, que tout le monde y croit », a-t-il dit. Les rapports servent plutôt de « moyen de rationaliser et de renforcer des préjugés, des biais et des spéculations préexistants avant que quelque vérité établie puisse émerger ».

Ce mécanisme n'est propre ni à un pays ni à un conflit. La synthèse du Guardian d'octobre 2023 notait que la Russie était depuis longtemps un fauteur de désinformation sur X. Elle semblait profiter du conflit Israël-Hamas. L'ancien président russe Dmitri Medvedev, vice-président du Conseil de sécurité russe, a tweeté que des armes de l'Otan remises à l'Ukraine servaient désormais contre Israël. Un compte X lié au groupe mercenaire Wagner a publié une vidéo montrant apparemment le Hamas remerciant l'Ukraine pour des armes. Elle a été vue plus de 300 000 fois et relayée par des comptes d'extrême droite aux États-Unis. Eliot Higgins, de Bellingcat, a signalé une fausse vidéo de la BBC. Elle prétendait montrer une enquête de Bellingcat sur une contrebande d'armes ukrainiennes vers le Hamas, poussée par des internautes russes. Higgins a déclaré qu'il n'était pas clair s'il s'agissait d'une campagne du gouvernement russe ou d'une initiative de la base.

L'échelle compte ici. Une enquête de CNN publiée le 13 novembre 2023 a constaté que le gouvernement chinois avait construit la plus grande opération de désinformation en ligne connue au monde. Il l'utilisait pour harceler des résidents américains, des politiciens et des entreprises, menaçant parfois des cibles de violences. Le réseau, connu sous le nom de « Spamouflage » ou « Dragonbridge », compte des centaines de milliers de comptes sur les grandes plateformes. Meta a déclaré en août 2023 avoir supprimé un ensemble de près de 8 000 comptes attribués au groupe au seul deuxième trimestre de cette année-là. Google a dit à CNN avoir fermé plus de 100 000 comptes associés ces dernières années. X avait bloqué des centaines de milliers de comptes chinois « soutenus par l'État » ou « liés à l'État ». Le département d'État américain a décrit ces tactiques comme faisant partie d'un effort global de plusieurs milliards de dollars visant à façonner l'environnement informationnel mondial et à faire taire les critiques de Pékin.

Le déficit de modération

Les plateformes ne sont pas des tuyaux passifs, et plusieurs enquêtes le montrent concrètement. Le Guardian a rapporté qu'Elon Musk a dissous le Trust and Safety Council de X après son rachat de 2022. Il a rapporté qu'il avait licencié deux responsables de la confiance et de la sécurité au cours de l'année écoulée. L'entreprise a déclaré avoir des projets de réorganisation de l'équipe, mais ceux-ci restaient flous. X a introduit les Community Notes, un programme de modération participatif. Il fait largement peser sur les utilisateurs la charge de corriger les faits au lieu de modérateurs salariés. Le mardi 10 octobre 2023, la Commission européenne a envoyé une lettre à Musk. Elle l'a averti au sujet d'une désinformation présumée sur X concernant l'attaque du Hamas, notamment de fausses nouvelles et d'« images anciennes réutilisées ».

Des recherches indépendantes ont suivi la direction prise. L'Union of Concerned Scientists, dans un texte du 20 septembre 2023, citait une conclusion du Center for Countering Digital Hate. X « continue d'héberger près de 86 % d'un ensemble de 300 posts haineux une semaine après que nous les avons signalés ». La chercheuse Abbie Richards a constaté que les tweets niant le climat atteignaient en moyenne 30 000 par semaine entre décembre 2021 et juillet 2022. Ils ont presque triplé à 110 000 par semaine après juillet 2022. Un chercheur de l'Université de Californie du Sud a constaté que le discours haineux quotidien moyen des utilisateurs haineux avait presque doublé lors des six premiers mois de la propriété de Musk. Le post de l'UCS citait aussi une baisse d'environ 60 % des revenus publicitaires.

Rien de tout cela n'est un terrain incontesté. Le même texte de l'UCS notait que l'essentiel de la désinformation climatique sur X vient d'un nombre relativement restreint d'utilisateurs. À l'approche et pendant la COP27, les tweets et citations de seulement 16 comptes ont amassé 507 000 likes et retweets. Un petit nombre de comptes déterminés peut produire l'apparence d'un mouvement de masse. C'est précisément ce qui rend le modèle en réseau difficile à surveiller.

Ce que le public dit vouloir

Une enquête Ipsos commandée par l'Unesco a porté sur 8 000 personnes dans 16 pays devant tenir des élections nationales en 2024. Le Guardian l'a rapportée le 7 novembre 2023. Elle a constaté que 85 % s'inquiétaient de l'influence de la désinformation en ligne. 87 % ont déclaré qu'elle avait déjà eu un impact majeur sur la vie politique nationale. Les réseaux sociaux étaient la principale source d'information pour 56 % des internautes, devant la télévision à 44 % et les sites de médias à 29 %. La confiance dans l'information des réseaux sociaux était de 50 % contre 66 % pour la télévision. Dans les 16 pays, 68 % ont déclaré que les réseaux sociaux étaient là où les fausses nouvelles étaient les plus répandues.

La directrice générale de l'Unesco, Audrey Azoulay, a déclaré aux journalistes que la fausse information et les discours haineux en ligne posaient de « risques majeurs pour la cohésion sociale, la paix et la stabilité ». Elle a dit que les plateformes accéléraient et amplifiaient ce contenu. Elle a dit qu'une régulation était nécessaire de toute urgence « pour protéger l'accès à l'information... tout en protégeant la liberté d'expression et les droits humains ». L'Unesco a indiqué que son plan de gouvernance s'appuyait sur plus de 10 000 contributions de 134 pays sur 18 mois. Elle a indiqué que plus de 50 pays régulaient déjà les réseaux sociaux, souvent sans respecter les normes internationales en matière de liberté d'expression et de droits humains.

La régulation n'est pas non plus une réponse tranchée. Le sénateur Sheldon Whitehouse plaide pour l'abrogation de la Section 230 du Communications Decency Act. Il en veut une version plus étroite qui forcerait à la « divulgation des financeurs de la désinformation », selon la transcription par Reclaim The Net de son chapitre de livre et de son fil Twitter. Whitehouse a soutenu que « la menace d'une responsabilité juridique, par exemple, pourrait rendre Facebook et d'autres entreprises plus enclines à adopter des mesures qui arrêtent la propagation de la mésinformation même si elles réduisent aussi l'engagement des utilisateurs, car ne pas agir comporterait ses propres risques financiers ». Les critiques de cette approche, comme le note Reclaim The Net, soupçonnent que l'essentiel de la désinformation deviendrait simplement une parole protégée par le Premier Amendement.

Le Royaume-Uni offre un test grandeur nature. Il dispose d'un Online Safety Act censé lutter contre les discours haineux. Mais CNBC a rapporté qu'il n'entre en vigueur qu'au début de l'année prochaine et pourrait ne pas suffire à prémunir contre certaines formes de désinformation. Le mercredi 7 août 2024, le régulateur britannique des médias, Ofcom, a écrit aux plateformes sociales. Il a déclaré qu'elles ne devraient pas attendre l'entrée en vigueur de la nouvelle loi.

Le directeur adjoint d'Amnesty Tech, Pat de Brún, a déclaré au Guardian que des plateformes comme Meta et X ont des responsabilités claires au regard des normes internationales des droits humains. Il a dit que ces responsabilités sont renforcées en temps de crise et de conflit. « Les entreprises de réseaux sociaux sont responsables d'identifier et de répondre efficacement aux risques et de prendre des mesures efficaces pour limiter la propagation de contenus nuisibles », a-t-il dit. Il a ajouté que les grandes entreprises technologiques avaient « bien trop souvent » manqué à se mobiliser dans de telles urgences.

Commentaires 0

Sources

6
  1. 01How Israel-Hamas war disinformation is being spread onlineEN
  2. 0285% of people worry about online disinformation, global survey findsEN
  3. 03Online disinformation sparked a wave of far-right violence in the UKEN
  4. 04China is using the world's largest online disinformation operation to harass AmericansEN
  5. 05Senator Sheldon Whitehouse wants to repeal Section 230 to combat online "disinformation"EN
  6. 06For Online Disinformation and Hate, X Marks the SpotEN

Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.

Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.

Camille Rousseau

Camille Rousseau

IA, modèles et technologies

Camille Rousseau suit les technologies, l’IA et les modèles ainsi que les médias et l’internet pour FLASH24, en partant des dépôts de modèles, des publications techniques et des données publiques, sans reprendre les annonces sans vérification. Elle contrôle les chiffres d’entraînement et de coût en remontant aux jeux de données, aux versions de modèles et aux méthodes de mesure. Elle interroge des chercheurs et des équipes produit, compare les résultats entre modèles et attend les mises à jour de calendrier des principaux fournisseurs. Son intérêt pour l’impression 3D, les vieux ordinateurs et la façon dont les modèles apprennent rejoint directement son travail sur l’IA et les technologies. Elle ne publie pas de chiffres sans source ni de comparaison sans protocole reproductible.

Rédaction →

Commentaires

0
  1. Aucun commentaire — soyez le premier.

Écrire un commentaire

Les commentaires sont publics. Nous ne publions ni insultes, ni spam, ni publicité.