Fuite sur la modération de Facebook, Online Safety Act britannique et Rules Hub de Reddit : le même combat
Les consignes internes de Facebook autorisaient un message invitant à casser le cou d'une femme, mais interdisaient « Someone shoot Trump », rapporte Ars Technica en mai 2017, après la publication par The Guardian de plus de 100 manuels de formation internes.

La fuite est arrivée au mauvais moment. Elle a éclaté pendant la campagne des législatives britanniques, alors que les conservateurs réclamaient des amendes pour les sites qui ne retirent pas assez vite les contenus illégaux, selon le rapport d'Ars Technica du 22 mai 2017.
La défense de Facebook, à l'époque et encore largement aujourd'hui, tient à deux arguments : l'échelle et la catégorie juridique. Les documents divulgués montrent que l'entreprise trace une limite autour des contenus susceptibles de causer un préjudice réel. Elle exige certains détails pour qu'une menace soit jugée crédible. Selon ces règles, les publications misogynes violentes et les appels à frapper des enfants gros restaient en ligne. Menacer un président, non, en partie parce que c'est un acte criminel aux États-Unis. L'entreprise répète depuis longtemps qu'elle est une plateforme et non un éditeur. En Europe, elle peut s'appuyer sur la directive sur le commerce électronique, dont l'article 15 dispose que les services d'hébergement ne sont pas tenus de surveiller les informations qu'ils transmettent ou stockent. Cette position devient plus difficile à tenir chaque fois que Facebook intervient sur un contenu, ce qui est précisément la fonction d'un manuel de modération. Monika Bickert, responsable de la gestion des politiques mondiales chez Facebook, a déclaré au Guardian qu'une « communauté mondiale diverse » rend impossible un tracé cohérent des limites, et que l'écart entre la satire et un contenu inapproprié est parfois très flou.
Six ans plus tard, le Royaume-Uni a cessé de demander gentiment.
Le Online Safety Bill a reçu la sanction royale le 26 octobre 2023 et est devenu le Online Safety Act, rapporte The Verge. Il couvre l'accès des mineurs à la pornographie, les trolls anonymes, les publicités frauduleuses, les deepfakes intimes non consentis, les contenus d'abus sexuels sur enfants et les contenus terroristes. L'Ofcom le fait appliquer en trois phases.
« Nos nouveaux pouvoirs ne visent pas à retirer des contenus », a déclaré Melanie Dawes, directrice générale de l'Ofcom, dans un communiqué. « Notre travail consiste à s'attaquer aux causes profondes des préjudices. »
Les sanctions atteignent 18 000 000 de livres, soit environ 22 000 000 de dollars, ou 10 % du chiffre d'affaires annuel mondial, le montant le plus élevé étant retenu, avec la possibilité d'emprisonnement pour les dirigeants. WhatsApp et Signal se sont opposés à une clause permettant à l'Ofcom de demander aux entreprises d'identifier les contenus d'abus sexuels sur enfants, qu'ils soient communiqués publiquement ou en privé. Ils jugent qu'elle affaiblit le chiffrement de bout en bout ; certains fournisseurs ont laissé entendre qu'ils préféreraient quitter le Royaume-Uni. La Wikimedia Foundation a averti que des obligations strictes de protection de l'enfance s'accordent mal avec un service qui collecte peu de données utilisateurs, y compris les âges.
L'automatisation s'installe et les règles deviennent plus floues
Le dernier tournant, c'est que les plateformes confient le jugement à des modèles de langage. Reddit déploie une suite de modération appelée Rules Hub, qui utilise des LLM pour évaluer si une publication ou un commentaire correspond à l'intention d'une règle, rapporte The Verge le 6 août 2026. Rules Hub a été testé avec des modérateurs de plus de 700 communautés, s'étend à toutes les communautés nouvellement créées et sera largement disponible plus tard en 2026.
Reddit affirme que Rules Hub pourra à terme remplacer de nombreux flux d'application sur lesquels les communautés s'appuient via Automoderator, qui repose sur une correspondance exacte de mots-clés et de motifs. Steve Huffman, directeur général, a qualifié Automod de difficile à apprendre, difficile à maintenir et très dépendant d'une correspondance de mots-clés fragile et de configurations héritées. L'entreprise exige aussi des nouvelles applications tierces qu'elles passent par sa plateforme de développeurs plutôt que par l'API. Elle dit étudier des changements pour l'ancien Reddit, sans calendrier fixé.
À comparer avec Valve. PC Gamer rapporte le 2 juin 2026 que, selon un récit de Bloomberg citant un ancien salarié anonyme, Gabe Newell s'en est pris au directeur juridique Karl Quackenbush. Ce dernier plaidait pour une modération plus interventionniste au moment où Valve envisageait d'accueillir des contenus purement pornographiques : « Pourquoi je te paie si c'est ton avis ? » Steam a quand même ouvert les vannes, avant de retirer plus tard les contenus pour adultes sous la pression des processeurs de paiement.
Ainsi, le même débat revient sans cesse sous d'autres habits. Facebook a rédigé des règles étroites et appelé cela neutralité. Le Royaume-Uni a légiféré et laissé un régulateur écrire le détail. Reddit remplace des règles fragiles par des modèles qui jugent l'intention. Valve a laissé le marché décider, et parfois un processeur de paiement. Aucun n'a tranché la question posée par la fuite de 2017 : qui trace la ligne, et à qui doit-on rendre des comptes quand elle bouge.
Sources
4- 01Facebook content moderation guidelines leakedEN
- 02Reddit is introducing a new moderator: AIEN
- 03Gabe Newell reportedly snapped 'What the f*** do I pay you for if that's your opinion?' at Valve lawyer pushing for more content moderation on SteamEN
- 04The UK's controversial Online Safety Bill finally becomes lawEN
Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.
Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.
Commentaires
0- Aucun commentaire — soyez le premier.