Gates exige une régulation de l'IA, TikTok paie 12,7 m£ et Kontext lève 4 m$

Gates n'a pas mâché ses mots. « Il faut que les forces de l'ordre et les politiques participent à la discussion sur ce que doivent être les garde-fous et la surveillance », a-t-il déclaré à l'animatrice Kristen Welker, selon The Guardian. « Et cela doit être une obligation. »

Le cofondateur de Microsoft présente la conformité comme un coût d'exploitation, pas comme un frein au développement : « Ce sera un peu de charge pour le secteur, mais pas un ralentissement spectaculaire de ce qu'il fait. » Il écarte aussi l'idée qu'un interrupteur d'arrêt suffise. « Un kill switch ne suffit pas », dit-il, et le débat « montre simplement à quel point diverses personnes ne sont pas technophiles ».

Le calendrier n'a rien d'un hasard. Gates a publié fin août un essai de près de 6 000 mots sur les risques à grande échelle de l'IA. Ses propos tombent quatre jours après la proposition de loi du sénateur américain Bernie Sanders, le 23 septembre, qui suspendrait temporairement le développement de l'IA avancée le temps de mettre en place des garde-fous, rapporte The Guardian. Gates n'est pas le seul dans le secteur à réclamer un ralentissement : le même article note que Sam Altman et Elon Musk ont tenu des propos comparables sur le rythme du développement.

Deux voies réglementaires, deux vitesses très différentes

Pendant que Washington débat d'une pause, le Royaume-Uni a déjà encaissé une amende antérieure à la controverse actuelle. Le 24 septembre, TikTok a renoncé à son appel contre une sanction de 12,7 m£ infligée par l'Information Commissioner's Office en 2023 pour n'avoir pas tenu les moins de 13 ans hors de la plateforme. L'ICO affirme que TikTok a fait « très peu, voire rien » contre l'usage par des mineurs, et que jusqu'à 1 750 000 enfants britanniques de moins de 13 ans ont utilisé le service en 2020.

TikTok dit contester la décision mais payer parce que l'affaire couvre la période 2018 à 2020, après laquelle la société affirme avoir mis en place « de nombreuses mesures et politiques de protection des jeunes ». L'entreprise a aussi retiré son appel contre une demande d'information de l'ICO sur la façon dont son algorithme traite les données personnelles des adolescents, et le régulateur indique qu'il reprendra cette enquête. TikTok compte plus de 30 m d'utilisateurs au Royaume-Uni.

« Notre action contre TikTok montre à quel point il est important que les entreprises mettent en place les bonnes protections, notamment pour empêcher l'accès d'enfants qui n'ont pas l'âge d'utiliser leurs services. » Emily Keaney, commissaire adjointe de l'ICO, selon The Guardian

Emily Keaney, commissaire adjointe de l'ICO, le dit sans détour : l'affaire montre « à quel point il est important que les entreprises mettent en place les bonnes protections », rapporte le Guardian. Cette sanction compte au-delà d'une simple amende, car la vérification de l'âge est au cœur de la limite d'âge de 16 ans pour les réseaux sociaux voulue par le gouvernement britannique, qui doit entrer en vigueur l'an prochain. L'Ofcom a déclaré que « le secteur technologique doit en faire davantage » à l'approche de cette interdiction. L'Australie, qui a introduit sa propre interdiction des moins de 16 ans en décembre dernier, offre un point de repère inquiétant : la commissaire à la sécurité en ligne du pays a déclaré qu'une « proportion substantielle » des moins de 16 ans y ont gardé leur compte, en ont créé de nouveaux ou contourné les dispositifs de contrôle d'âge.

Les deux voies ne se ressemblent donc en rien. L'une est un législateur qui débat de l'opportunité de suspendre le développement de pointe. L'autre est un régulateur des données qui encaisse une amende pour une défaillance terminée il y a six ans, tout en prévenant que le test plus difficile n'a pas commencé.

Les éditeurs de sécurité avancent là où les règles n'existent pas

Dans cet espace s'est glissée une petite société européenne de sécurité. Le 24 septembre, Tech.eu a rapporté que Kontext avait levé 4 000 000 $ pour étendre une plateforme de sécurité d'exécution destinée aux agents d'IA. Le tour a été mené par 42CAP, avec le soutien d'a16z CSX et de HTGF.

Le postulat de Kontext est que les contrôles classiques cèdent dès que les agents cessent de produire du texte et se mettent à piloter des logiciels. La plateforme de la société se place entre les agents d'IA et les outils qu'ils touchent. Elle évalue chaque action en temps réel au regard des politiques et des signaux de risque, notamment l'identité de l'agent, l'action demandée, la ressource visée et la tâche assignée. Les équipes peuvent d'abord l'exécuter en mode observation, puis activer l'application des règles. Celle-ci bloque les actions non autorisées avant leur exécution et conserve une trace auditable de chaque décision.

Les fondateurs, Jens Ernstberger et Michel Osswald, viennent du calcul sécurisé, de la cryptographie appliquée et des systèmes d'IA. Tech.eu cite directement l'argument de la société : un agent peut être correctement authentifié, utiliser un outil approuvé et malgré tout accomplir une action que personne n'a autorisée. Le financement ira à l'ingénierie et à la plateforme d'application des règles en temps réel.

Notez ce qui se joue ici. La couche de contrôle de l'IA la plus concrète décrite dans les articles de cette semaine n'est pas un texte de loi. C'est le moteur de politiques d'une startup, vendu à des entreprises qui ne peuvent pas attendre les législateurs.

Ce que la semaine a réellement tranché

Trois dates, trois mécanismes différents.

• 27 septembre : Gates profite d'un entretien télévisé national pour exiger des garde-fous imposés, pas volontaires.
• 24 septembre : TikTok cesse de contester une amende de 12,7 m£ de l'ICO et une demande d'information distincte, et le régulateur relance son enquête sur l'algorithme.
• 24 septembre : Kontext boucle 4 m$ pour surveiller les agents d'IA au moment de l'action.

Les trois ne forment pas encore un régime cohérent. Gates veut les forces de l'ordre et les politiques autour de la table, et juge le coût pour le secteur modeste. L'ICO a démontré qu'une amende peut être infligée puis payée, mais seulement après des années d'appel et uniquement pour des comportements qui ont pris fin en 2020. Kontext vend le point de contrôle manquant dont les entreprises ont besoin aujourd'hui, parce que les agents détiennent déjà des identifiants d'entreprise et écrivent du code.

L'entretien de Gates contient aussi une question plus dure, à laquelle aucun régulateur n'a répondu. Il avertit qu'une IA entre de mauvaises mains serait « certainement assez puissante pour provoquer des événements qui, vous savez, causent un milliard de morts », ajoutant qu'« il n'y a jamais eu d'arme aussi puissante que la combinaison de personnes mal intentionnées utilisant les derniers outils d'IA ». Un kill switch, selon lui, ne couvre pas ce risque.

Pendant ce temps, la machine répressive rattrape encore des comptes d'enfants d'il y a un demi-décennie. Cet écart entre la menace annoncée et le remède démontré, voilà l'histoire de la semaine, et ni la proposition de Sanders ni l'enquête relancée de l'ICO ne l'ont comblé.