Gates exige une régulation de l'IA, TikTok paie 12,7 millions et Kontext lève 4 millions
Bill Gates a déclaré sur Meet the Press de NBC que l'IA laissée sans contrôle pourrait causer « un milliard de morts » et que l'autorégulation ne suffit pas. L'entretien est diffusé le dimanche 27 septembre.

Gates n'a pas mâché ses mots. « Il faut que les forces de l'ordre et les responsables politiques participent à la discussion sur ce que doivent être les garde-fous et la surveillance », a-t-il déclaré à l'animatrice Kristen Welker, selon The Guardian. « Et cela doit être une obligation. »
Le cofondateur de Microsoft présente cette conformité comme un coût d'exploitation, pas comme un frein au développement. « Ce sera un peu de surcharge pour le secteur, mais pas un ralentissement spectaculaire de ce qu'il fait. » Il a aussi écarté l'idée qu'un interrupteur d'arrêt suffise comme protection. « Un interrupteur d'arrêt ne suffit pas », a-t-il dit, et le débat « montre bien à quel point diverses personnes sont peu techniciennes ».
Le calendrier n'a rien d'accidentel. Fin août, Gates a publié un essai de près de 6 000 mots sur les risques de l'IA à grande échelle. Ses propos arrivent quatre jours après la proposition de loi du sénateur américain Bernie Sanders, le 23 septembre. Ce texte suspendrait temporairement le développement de l'IA avancée le temps de mettre en place des garde-fous, rapporte The Guardian. Gates n'est pas le seul du secteur à réclamer un ralentissement. Le même article note que Sam Altman et Elon Musk ont tenu des propos comparables sur le rythme du développement.
Deux voies réglementaires, deux vitesses très différentes
Pendant que Washington débat d'une pause, le Royaume-Uni a déjà encaissé une amende antérieure au débat actuel. Le 24 septembre, TikTok a abandonné son recours contre une sanction de 12 700 000 livres. L'Information Commissioner's Office l'avait prononcée en 2 023 pour n'avoir pas empêché les moins de 13 ans d'accéder à la plateforme. L'ICO a estimé que TikTok avait fait « très peu, voire rien » contre l'usage par des mineurs. Jusqu'à 1 750 000 enfants britanniques de moins de 13 ans auraient utilisé le service en 2 020.
TikTok a dit contester la décision mais paiera. L'affaire couvrait la période 2 018 à 2 020, après laquelle l'entreprise affirme avoir mis en place « de nombreuses mesures et politiques de protection des jeunes ». Elle a aussi retiré un recours contre une demande d'information de l'ICO sur la manière dont son algorithme traite les données personnelles des adolescents. Le régulateur indique qu'il reprendra cette enquête.
« Notre action réussie contre TikTok montre à quel point il est important que les entreprises mettent en place les bonnes protections, notamment pour empêcher l'accès des enfants qui n'ont pas l'âge d'utiliser leurs services. » Emily Keaney, commissaire adjointe de l'ICO, selon The Guardian
Emily Keaney, commissaire adjointe de l'ICO, l'a dit sans détour : l'affaire montre « à quel point il est important que les entreprises mettent en place les bonnes protections », rapporte le Guardian. Cette sanction compte au-delà d'une amende. La vérification de l'âge est au cœur de la limite d'accès aux réseaux sociaux pour les moins de 16 ans voulue par le gouvernement britannique, qui doit entrer en vigueur l'an prochain. Ofcom a déclaré que « le secteur technologique doit en faire davantage » à l'approche de cette interdiction. L'Australie a introduit la sienne en décembre dernier, et elle fournit un point de comparaison instructif. La commissaire à la sécurité électronique du pays a indiqué qu'une « proportion substantielle » des moins de 16 ans y avaient conservé leur compte, en avaient créé un nouveau ou contourné les systèmes de vérification d'âge.
Les deux voies ne se ressemblent donc en rien. L'une est un législateur qui débat de l'opportunité de suspendre le développement de pointe. L'autre est un régulateur de données qui encaisse une amende pour une défaillance terminée il y a six ans. Ce régulateur prévient que l'épreuve la plus dure n'a pas commencé.
Les fournisseurs de sécurité avancent là où les règles ne sont pas
Dans cet espace s'est engouffrée une petite société européenne de sécurité. Le 24 septembre, Tech.eu a rapporté que Kontext avait levé 4 000 000 de dollars pour étendre une plateforme de sécurité d'exécution destinée aux agents d'IA. Le tour a été mené par 42CAP, avec la participation d'a16z CSX et de HTGF.
Le postulat de Kontext est que les contrôles classiques cèdent dès que les agents cessent de produire du texte et se mettent à piloter des logiciels. Sa plateforme se place entre les agents d'IA et les outils qu'ils touchent. Elle évalue chaque action en temps réel au regard de politiques et de signaux de risque. Ces signaux incluent l'identité de l'agent, l'action demandée, la ressource visée et la tâche assignée. Les équipes peuvent d'abord l'exécuter en mode observation, puis activer l'application des règles. Celle-ci bloque les actions non autorisées avant leur exécution et conserve une trace auditable de chaque décision.
Les fondateurs, Jens Ernstberger et Michel Osswald, viennent de l'informatique sécurisée, de la cryptographie appliquée et des systèmes d'IA. Tech.eu cite directement l'argument de l'entreprise : un agent peut être correctement authentifié, utiliser un outil approuvé et malgré tout accomplir une action que personne n'a autorisée. Le financement ira à l'ingénierie et à la plateforme d'application des règles en temps réel.
Notez ce qui se joue ici. La couche de contrôle de l'IA la plus concrète décrite dans l'actualité de cette semaine n'est pas une loi. C'est le moteur de politiques d'une start-up, vendu à des entreprises qui ne peuvent pas attendre les législateurs.
Ce que la semaine a réellement tranché
Trois dates, trois mécanismes différents.
- 27 septembre : Gates profite d'un entretien télévisé national pour exiger des garde-fous obligatoires, et non volontaires.
- 24 septembre : TikTok cesse de contester une amende de 12 700 000 livres de l'ICO et une demande d'information distincte, et le régulateur relance son enquête sur l'algorithme.
- 24 septembre : Kontext boucle 4 000 000 de dollars pour encadrer les agents d'IA au moment de l'action.
Les trois ne forment pas encore un régime cohérent. Gates veut les forces de l'ordre et les politiques autour de la table, et juge le coût pour le secteur modeste. L'ICO a montré qu'une amende peut être prononcée et finit par être payée. Mais il a fallu des années de recours, et cela ne couvrait que des comportements terminés en 2 020. Kontext vend le point de contrôle qui manque aux entreprises aujourd'hui. Les agents détiennent déjà des identifiants d'entreprise et écrivent du code.
L'entretien de Gates contient aussi une question plus dure, à laquelle aucun régulateur n'a répondu. Il a averti que l'IA entre de mauvaises mains serait « certainement assez puissante pour provoquer des événements qui, vous savez, causent un milliard de morts ». Il a ajouté qu'« il n'y a jamais eu d'arme aussi puissante que la combinaison de personnes mal intentionnées utilisant les derniers outils d'IA ». Un interrupteur d'arrêt, selon lui, ne couvre pas cela.
Pendant ce temps, la machine répressive rattrape encore des comptes d'enfants d'il y a un demi-décennie. Cet écart entre la menace annoncée et le remède démontré, voilà l'histoire de la semaine. Ni la proposition de Sanders ni l'enquête reprise par l'ICO ne l'ont comblé.
Sources
6- 01Bill Gates says unchecked AI could 'cause a billion deaths' in call for regulationEN
- 02TikTok drops appeal against £12.7m fine for not keeping under-13s off platformEN
- 03Kontext raises $4M for runtime security platform for AI agentsEN
- 04CATL Unveils TECTRANS II Battery Platform at IAA Transport ShowEN
- 05Show HN: Digitron – a virtual analog synth and sequencerEN
- 06Show HN: M0saic – deterministic video compiler (CLI, web, desktop)EN
Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.
Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.
Commentaires
0- Aucun commentaire — soyez le premier.