Ce que l'amende de TikTok et l'interview de Gates disent de la régulation de la modération des plateformes
TikTok a retiré son appel contre une amende de 12 700 000 de livres infligée au Royaume-Uni pour n'avoir pas empêché les moins de 13 ans d'utiliser la plateforme, le 24 septembre. Trois jours plus tard, Bill Gates a déclaré à NBC que la régulation de l'IA doit être obligatoire, et non décidée par les entreprises elles-mêmes.

La date à retenir est le 24 septembre. Ce jour-là, TikTok a retiré son appel contre une sanction de 12 700 000 de livres prononcée en 2023 par l'Information Commissioner's Office, comme le rapportait The Guardian. L'application vidéo compte des dizaines de millions d'utilisateurs au Royaume-Uni. L'amende portait sur des contrôles insuffisants de l'identité des utilisateurs et sur l'absence de retrait des comptes de mineurs. Au moment de la prononcer, le régulateur avait affirmé que TikTok avait fait « très peu, pour ne pas dire rien » face à l'usage du service par des enfants.
Trois jours plus tard, le 27 septembre, Bill Gates était l'invité de Meet the Press sur NBC. Il a demandé aux élus et aux forces de l'ordre américains d'encadrer l'intelligence artificielle. Le cofondateur de Microsoft a déclaré à la présentatrice Kristen Welker qu'une IA sans contrôle pouvait causer « un milliard de morts ». Il a aussi affirmé que « personne ne pense que l'autorégulation suffit ».
Deux affaires, deux continents, un même raisonnement en dessous. Les plateformes et les systèmes d'IA ne se surveillent pas eux-mêmes. Les instances censées le faire avancent à des vitesses différentes.
Ce que TikTok a réellement abandonné
La somme de 12 700 000 de livres n'est pas nouvelle. Ce qui est nouveau, c'est que TikTok a cessé de la contester. D'après l'article du Guardian du 24 septembre, l'entreprise affirme être en désaccord avec la décision. Elle a choisi de payer parce que le dossier portait sur la période 2018 à 2020. Après cette période, assure-t-elle, elle a mis en place « de nombreuses mesures et politiques de protection des jeunes ». C'est une formule d'entreprise classique : on accepte la facture, on conteste le principe.
Le second appel compte davantage. TikTok a également retiré sa contestation d'une demande d'information de l'ICO. Cette demande portait sur la manière dont son algorithme traite les données personnelles des adolescents et sur la diffusion de contenus potentiellement nuisibles. L'ICO a indiqué qu'elle reprendrait maintenant cette enquête. Le dossier reste ouvert, il n'est pas classé.
Emily Keaney, commissaire adjointe de l'ICO, a résumé l'issue dans les termes habituels du régulateur : « Notre action réussie contre TikTok montre à quel point il est important que les entreprises disposent des protections adéquates, notamment pour empêcher l'accès des enfants qui n'ont pas l'âge requis pour utiliser leurs services. »
Les chiffres du dossier n'ont pas été sérieusement contestés. L'ICO a indiqué que jusqu'à 1 750 000 enfants britanniques de moins de 13 ans avaient utilisé le service en 2020. L'âge minimum fixé par TikTok est de 13 ans.
La prochaine échéance est plus lourde
La vérification de l'âge va devenir un problème de conformité bien plus vaste au Royaume-Uni. La limite imposée par le gouvernement aux réseaux sociaux pour les moins de 16 ans entre en vigueur l'an prochain. À l'approche de cette interdiction, Ofcom a déclaré que « le secteur technologique doit en faire davantage » pour faire respecter les limites d'âge. L'amende de TikTok est, dans cette perspective, une répétition générale. Elle concerne une période close il y a six ans et un régime qui n'existait pas encore.
Les précédents internationaux n'encouragent pas ceux qui attendent une application propre des règles. L'Australie a instauré en décembre dernier une interdiction des réseaux sociaux pour les moins de 16 ans. La commissaire à la sécurité en ligne du pays a déclaré qu'une « proportion substantielle » des moins de 16 ans y avaient conservé leurs comptes ou en avaient créé de nouveaux. Certains ont contourné les dispositifs de vérification de l'âge. Une interdiction sur le papier est une chose. Une interdiction à l'écran de connexion en est une autre.
Cet écart entre la règle et son application est exactement celui que décrivait Gates, dans un autre domaine.
Gates veut un cadre juridique, pas un interrupteur
L'interview de Gates, diffusée le 27 septembre, avait été diffusée à l'avance sous forme d'extraits par NBC. Il a déclaré à Welker : « Il faut que les forces de l'ordre et les responsables politiques entrent dans la discussion sur ce que doivent être les garde-fous et le contrôle. Et cela doit être une obligation. » Il a qualifié le coût pour l'industrie de « surcoût modeste », et non de ralentissement brutal.
Il a écarté l'idée qu'un interrupteur technique suffirait. « Un interrupteur ne suffit pas », a-t-il dit. Il a ajouté que les systèmes actuels n'en sont pas encore au point de « s'emparer seuls d'ordinateurs et, vous voyez, de ne plus pouvoir être arrêtés ». Son avertissement plus large : entre de mauvaises mains, l'IA est « certainement assez puissante pour provoquer des événements qui, vous voyez, causent un milliard de morts ». C'est le genre de déclaration qui fait les gros titres et se prête mal à la vérification.
Le contexte compte. Fin août, Gates a publié un essai de près de 6 000 mots sur les risques de l'IA à grande échelle. L'interview était l'une de ses premières apparitions publiques majeures depuis qu'il s'est retrouvé mêlé à l'affaire Jeffrey Epstein. Un audit externe commandé par sa fondation et publié en juillet a conclu qu'il figurait parmi les collaborateurs et dirigeants qui ont collectivement tenu une trentaine de réunions avec Epstein entre 2011 et 2014. Gates n'a pas été accusé d'implication dans les crimes reconnus ou allégués d'Epstein. Il a déclaré regretter « chaque minute » passée avec lui. Il reste président de la Gates Foundation, dotée de 89 000 000 000 de dollars.
Tous ceux qui tiennent ce raisonnement n'ont pas le même parcours. Cela ne rend pas le raisonnement faux. Cela signifie que le messager fait partie de l'histoire.
Un sénateur, une échéance et une entreprise sous examen
Gates n'est pas seul à réclamer une pause. Le sénateur progressiste américain Bernie Sanders a proposé une loi le 23 septembre, rapporte The Guardian. Le texte suspendrait temporairement le développement de l'IA avancée le temps de mettre en place des garde-fous. Sam Altman et Elon Musk ont eux aussi appelé à ralentir le développement, même si les trois hommes ne mettent manifestement pas la même chose derrière ces mots.
Un épisode annexe gêne. Microsoft, l'entreprise que Gates a cofondée, a elle-même été mise en cause pour son rôle dans les systèmes à l'origine d'une partie de ces inquiétudes. Des salariés et des militants ont lancé une campagne pour que Microsoft coupe ses liens avec l'armée israélienne. Selon une tribune publiée vendredi par The Guardian, cette armée a utilisé des outils d'IA à Gaza et, aux côtés des forces américaines, en Iran. Les auteurs de la tribune, Mohamed Hussein et Granate Kim, du groupe No Azure for Apartheid, écrivent aussi que le département de la sécurité intérieure des États-Unis a utilisé des outils d'IA, dont Azure de Microsoft, pour surveiller, arrêter et expulser des immigrés. Ce sont des accusations formulées dans une tribune, pas des conclusions de régulateur.
Elles n'en font pas moins paraître bien fragiles les codes volontaires. La même entreprise avertit sur les risques de l'IA et vend l'infrastructure. L'autorégulation y trouve un problème structurel évident.
Où va l'argent
Le marché intègre déjà le risque. Le 24 septembre, Tech.eu a rapporté que Kontext avait levé 4 000 000 de dollars lors d'un tour mené par 42CAP, avec le soutien d'a16z CSX et de HTGF. Kontext est une jeune entreprise de sécurité de l'IA fondée par Jens Ernstberger et Michel Osswald. Elle développe une plateforme de sécurité à l'exécution qui s'intercale entre les agents d'IA et les outils qu'ils utilisent. La plateforme évalue chaque action au regard de la politique définie et bloque celles qui ne sont pas autorisées. Les équipes peuvent d'abord la faire tourner en mode observation, puis activer l'application des règles.
À lire en regard de l'interview de Gates, la forme du marché réglementaire à venir devient visible. Les régulateurs veulent des points de contrôle auditables. Les fournisseurs les construisent pour les agents d'IA avant même que les règles existent. La même logique vaut pour la vérification de l'âge. L'amende de TikTok, la limite britannique des moins de 16 ans et l'expérience australienne renvoient toutes à des infrastructures de vérification plutôt qu'à la suppression de contenus.
La couverture de l'affaire TikTok et celle de l'interview de Gates s'écartent du quotidien de l'application des règles. The Guardian rapportait dans le même article l'action de l'ICO et l'avertissement de la commissaire australienne à la sécurité en ligne. Les deux récits ne se contredisent pas. Ils décrivent des étapes différentes du même problème. Un régulateur encaisse un chèque pour une période close en 2020. Un autre reconnaît qu'une interdiction entrée en vigueur en décembre dernier n'a pas empêché une proportion substantielle des moins de 16 ans de rester en ligne.
Ce qu'il faut suivre
Trois choses. D'abord, l'enquête de l'ICO sur l'algorithme de TikTok et les données des adolescents, que l'entreprise a cessé de bloquer. Ensuite, le régime britannique des moins de 16 ans, prévu l'an prochain, et la question de savoir si Ofcom obtient des pouvoirs de sanction qui mordent. Enfin, de savoir si la pause proposée par Sanders sur le développement de l'IA avancée avance, ne serait-ce qu'un peu. Si ce n'est pas le cas, elle rejoindra la pile des textes similaires jamais soumis au vote.
La phrase de Gates sur le surcoût est celle à retenir. La régulation des plateformes et de l'IA est, pour les entreprises concernées, un coût d'exploitation. Le débat porte sur qui en fixe le prix.
Sources
5- 01TikTok drops appeal against £12.7m fine for not keeping under-13s off platformEN
- 02Bill Gates says unchecked AI could 'cause a billion deaths' in call for regulationEN
- 03Kontext raises $4M for runtime security platform for AI agentsEN
- 04CATL Unveils TECTRANS II Battery Platform at IAA Transport ShowEN
- 05Show HN: Digitron – a virtual analog synth and sequencerEN
Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.
Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.
Commentaires
0- Aucun commentaire — soyez le premier.