Pour les députés, l'Online Safety Act ne couvre pas la désinformation légale mais nuisible

Le rapport de la commission revient sur les émeutes de l'été précédent au Royaume-Uni. Elles ont été en partie déclenchées par de la désinformation en ligne et des contenus haineux, après une attaque au couteau mortelle lors d'un cours de danse pour enfants à Southport. Selon les députés, ces publications ont été amplifiées par les algorithmes de recommandation des plateformes.

L'Online Safety Act a reçu la sanction royale en octobre 2023, et les dispositions qui obligent les entreprises de médias sociaux à protéger les utilisateurs contre les contenus illégaux sont entrées en vigueur en mars 2025. La commission avertit que la loi ne traite toujours pas l'amplification algorithmique de ce qu'elle appelle les « contenus légaux mais nuisibles ». Le public reste donc exposé à une répétition de la crise de l'été dernier. The Register a rapporté les conclusions de la commission le 11 juillet 2025.

155 millions d'impressions sur X

Les chiffres du rapport sont sans appel. Entre le 29 juillet et le 9 août 2024, de fausses affirmations, ou des affirmations sans fondement, sur l'assaillant de Southport ont atteint 155 millions d'impressions sur X. Sur l'ensemble des médias sociaux, le faux nom a été vu 420 000 fois, avec une portée potentielle de 1,7 milliard de personnes. Il a été directement promu par des outils algorithmiques, apparaissant dans la rubrique « Trending in the UK » de X et dans la fonction « Others searched for » de TikTok, a indiqué la commission.

Dame Chi Onwurah, députée et présidente de la commission des sciences, de l'innovation et de la technologie, a déclaré que la législation « n'est tout simplement pas à la hauteur » et que le gouvernement doit aller plus loin pour s'attaquer à la désinformation qui cause un préjudice sans franchir la ligne de l'illégalité. « Les entreprises de médias sociaux ne sont pas de simples plateformes neutres, elles sélectionnent activement ce que vous voyez en ligne, et elles doivent être tenues responsables », a-t-elle dit. La commission a exhorté le gouvernement à adopter cinq principes comme fondement de la régulation future, allant de la protection de la liberté d'expression à la responsabilité des plateformes pour les contenus qu'elles mettent en ligne.

La manière dont les fausses affirmations se sont propagées au départ est documentée en détail. CNBC a rapporté le 9 août 2024 que, quelques heures après l'attaque au couteau de Southport, qui a tué trois jeunes filles, de fausses informations sur le nom, la religion et le statut migratoire de l'assaillant avaient gagné une traction importante. Hannah Rose, analyste de la haine et de l'extrémisme à l'Institute for Strategic Dialogue, a déclaré à CNBC qu'une publication sur X nommait faussement l'auteur comme « Ali al-Shakati », présenté comme un migrant de confession musulmane, et que le lendemain à 15 heures, le faux nom comptait plus de 30 000 mentions sur X seul.

D'autres fausses affirmations partagées sur les médias sociaux indiquaient que l'assaillant figurait sur une liste de surveillance des services de renseignement, qu'il était arrivé au Royaume-Uni sur un petit bateau en 2023 et qu'il était connu des services locaux de santé mentale, selon l'analyse de l'ISD citée par CNBC. La police a démenti ces affirmations le lendemain de leur apparition, précisant que le suspect était né en Grande-Bretagne. À ce moment-là, le récit avait déjà pris. Des groupes d'extrême droite ont commencé à organiser des manifestations anti-migrants et anti-islam, dont une lors de la veillée prévue pour les filles tuées. Les troubles ont dégénéré en plusieurs jours d'émeutes, avec des attaques contre des mosquées, des centres d'immigration et des hôtels hébergeant des demandeurs d'asile.

Comment les plateformes ont poussé le faux nom

Les médias sociaux n'ont pas seulement hébergé les fausses informations. Selon Rose de l'ISD, des comptes comptant des centaines de milliers d'abonnés, et des badges bleus payants sur X, ont partagé les fausses informations, que les algorithmes de la plateforme ont ensuite poussées vers d'autres utilisateurs. « Par exemple, quand vous cherchiez “Southport” sur TikTok, dans la section “Others Searched For”, qui recommande des contenus similaires, le faux nom de l'assaillant était promu par la plateforme elle-même, y compris 8 heures après que la police a confirmé que cette information était incorrecte », a déclaré Rose à CNBC. L'analyse de l'ISD a montré que les algorithmes fonctionnaient de manière similaire sur d'autres plateformes comme X, où le nom incorrect de l'assaillant figurait comme sujet tendance.

Joe Ondrak, responsable de la recherche et de la technologie pour le Royaume-Uni chez Logically, une entreprise technologique qui développe des outils d'intelligence artificielle pour lutter contre la désinformation, a déclaré à CNBC que les fausses affirmations fonctionnaient comme un « catnip » pour des groupes déjà hostiles à la migration. « Ce n'est pas le cas où cette fausse affirmation est publiée et ensuite, vous savez, elle est crue par tout le monde », a-t-il dit. Les rapports agissent plutôt comme « un moyen de rationaliser et de renforcer des préjugés, des biais et des spéculations préexistants avant que toute vérité établie puisse circuler ».

Les fausses affirmations ont aussi atteint Telegram, où Ondrak dit que les récits se consolident et exposent un nombre croissant de personnes à des « convictions plus dures ». Il décrit des affirmations canalisées à travers ce qu'il appelle le milieu post-Covid de Telegram, y compris des canaux initialement anti-vaccins, ensuite récupérés par des figures d'extrême droite promouvant des thèmes anti-migrants. En réponse à une demande de commentaire de CNBC, Telegram a nié faciliter la propagation de la désinformation, affirmant que ses modérateurs surveillaient la situation et retiraient les canaux et publications appelant à la violence, interdits par ses conditions d'utilisation.

Au moins certains des comptes appelant à participer aux manifestations pouvaient être rattachés à l'extrême droite, selon l'analyse de Logically, y compris certains liés au groupe extrémiste de droite interdit National Action, désigné organisation terroriste en 2016 en vertu du Terrorism Act britannique. Ondrak a aussi noté que de nombreux groupes ayant auparavant diffusé de fausses informations sur l'attaque avaient commencé à les retirer, affirmant qu'il s'agissait d'un canular.

Alors que les émeutes se poursuivaient, le propriétaire de X, Elon Musk, est intervenu avec des commentaires controversés sur les manifestations violentes sur sa plateforme, suscitant des réactions du gouvernement britannique. Le ministre de la justice du pays a appelé Musk à « se comporter de manière responsable ». TikTok et X n'ont pas répondu immédiatement à la demande de commentaire de CNBC. Le mercredi suivant le pic des troubles, des milliers de manifestants antiracistes se sont rassemblés dans des villes et villages du Royaume-Uni, surpassant largement les récentes manifestations anti-immigration.

Ofcom a dit aux plateformes de ne pas attendre

Le Royaume-Uni dispose d'un Online Safety Act censé lutter contre les discours haineux, mais au moment des émeutes, il n'était pas encore en vigueur et, comme l'a noté CNBC, pourrait ne pas suffire à protéger contre certaines formes de désinformation. Le régulateur des médias Ofcom a adressé une lettre aux plateformes de médias sociaux leur disant qu'elles ne devaient pas attendre l'entrée en vigueur de la nouvelle loi, et le gouvernement britannique a aussi déclaré que les entreprises de médias sociaux devaient agir.

Le rapport de la commission va plus loin que l'incitation du régulateur. Les députés ont soutenu que les plateformes doivent être tenues responsables de la diffusion algorithmique de contenus trompeurs ou mensongers pouvant radicaliser et nuire aux utilisateurs, et que l'Online Safety Act ne traite pas ce point. « Il est impératif de réguler et de légiférer sur ces technologies sur la base des principes énoncés dans ce rapport, en exploitant le monde numérique de manière à protéger et autonomiser les citoyens », indique le rapport. Lors des auditions qui l'ont précédé, la commission a entendu une série d'interprétations du droit britannique, révélant un manque de clarté de la part d'Ofcom et de la fonction publique sur la question de savoir si l'Online Safety Act couvre la désinformation.

L'affaire de Southport n'est pas le seul exemple de désinformation produite pour de l'argent plutôt que par conviction. Une enquête de BuzzFeed News, menée en partenariat avec le Reporter de Taïwan, a constaté que depuis 2011, au moins 27 opérations d'information en ligne avaient été partiellement ou entièrement attribuées à des sociétés de relations publiques ou de marketing, dont 19 rien qu'en 2019. Elle décrivait une industrie mondiale de sociétés de « black PR » prêtes à déployer de faux comptes, de faux récits et de pseudo sites d'information pour leurs clients.

L'une d'elles, la société israélienne Archimedes Group, a créé des réseaux de centaines de pages, comptes et groupes Facebook dans le monde entier et se vantait sur son site de vouloir « utiliser tous les outils et tirer tous les avantages disponibles afin de changer la réalité selon les souhaits de notre client ». Pour une élection au Mali, elle gérait une fausse page de vérification des faits prétendant être tenue par des étudiants locaux. En Tunisie, elle gérait une page intitulée « Stop a la Desinformation et aux Mensonges ». Au Nigeria, elle gérait des pages favorables et défavorables au même politicien, l'ancien vice-président Atiku Abubakar. Les chercheurs ont supposé que la page pro-Abubakar « était probablement conçue pour identifier ses partisans afin de les cibler plus tard avec du contenu anti-Abubakar ».

Nathaniel Gleicher, responsable de la politique de cybersécurité chez Facebook à l'époque, a déclaré à BuzzFeed News que « la professionnalisation de la tromperie » est une menace croissante. « Des entreprises se créent qui bâtissent essentiellement leur modèle économique autour de la tromperie », a-t-il dit. Cindy Otis, ancienne officier de la CIA et auteure de True or False: A CIA Analyst's Guide to Spotting Fake News, a déclaré que les opérations d'information d'États comme la Russie et l'Iran avaient fourni « un manuel pour les individus et les groupes motivés financièrement à entrer dans cet espace ».

Au Royaume-Uni, la question immédiate est de savoir si la loi attrape le type de contenu qui a précédé les émeutes. La réponse de la commission, en substance, est que non. Le faux nom était un discours légal, promu par des systèmes de recommandation, et vu 420 000 fois. Les obligations de l'Online Safety Act relatives aux contenus illégaux, en vigueur depuis mars, ne l'atteignent pas. C'est la lacune que les députés veulent combler.