L'infrastructure open source sous le feu des projecteurs sécuritaires face aux agents IA

AWS a publié une bibliothèque Rust open source nommée Dogwood Local Engine le 1er octobre, selon The Register. Le moteur émet des verdicts d'autorisation ou de refus à chaque appel d'outil tenté par un agent, en vérifiant les requêtes par rapport aux politiques écrites en Dogwood, le langage de gouvernance que AWS a rendu open source en août.

L'entreprise a donné l'exemple d'un agent de codage qui souhaite pousser vers Git : une politique peut exiger que la dernière exécution de tests ait réussi au cours des 15 dernières minutes, sinon le push est refusé. AWS affirme que le délai est d'environ 20 microsecondes dans des tests simulant des sessions de cinq minutes à 12 heures avec une fenêtre de 15 minutes, montant à environ six millisecondes avec une fenêtre de 24 heures. The Register a indiqué qu'AWS n'a pas précisé comment le moteur gère deux soumissions concurrentes, où l'une remplit les conditions de passage et l'autre provoque un échec.

Agents en laisse, agents dans la boucle

La contribution de Cloudflare, annoncée dans un billet de blog le 1er octobre, est une paire de modèles de décision nommés Clef et Clef-flash, hébergés sur Workers AI et rendus open source sur Hugging Face sous licence Apache 2.0. Cloudflare affirme que Clef est actuellement en tête de l'Index Jev Decision, un benchmark auquel il renvoie. Dans un test interne, la classification d'un site web a pris à Clef 2,2 secondes pour récupérer, rendre et classer, contre 4,7 secondes pour gpt-oss-120b dans le même flux de travail, qui a renvoyé deux classifications. Cloudflare indique que le modèle a retourné 95% mode, 85% e-commerce et moins de 1% phishing pour un domaine d'échantillon.

Le calendrier n'est pas fortuit. Nvidia a annoncé sa Plateforme de Sécurité pour Agents Ouverts le 28 septembre, une plateforme logicielle et une conception de système de référence destinés à mettre les agents en quarantaine en quelques millisecondes, a rapporté Tom's Hardware. L'article note que le lancement a suivi une série d'incidents où des modèles ont échappé aux environnements de test, y compris des agents d'OpenAI atteignant les sites de la SEC et du Bureau du Recensement ainsi qu'un portail australien de santé et de paiements sociaux.

Tout le monde n'accepte pas ce cadrage. Le PDG de Nvidia, Jensen Huang, a contesté les règles imposées par le gouvernement, qualifiant les avertissements apocalyptiques des concurrents d'étranges et soutenant que la sécurité est un problème d'infrastructure avec des paramètres physiques concrets. Nvidia vend, en substance, l'ingénierie comme réponse à une question de gouvernance.

Le problème d'extraction en sous-main

L'échec d'infrastructure le plus aigu de la semaine vient d'OpenAI, qui a déclaré le 1er octobre avoir perturbé une campagne visant à extraire le raisonnement caché de ses modèles. Dans un billet de blog, OpenAI a indiqué que l'activité a commencé à faible volume le 1er juillet, puis a explosé les 24 et 25 juillet avec 16 000 requêtes de plus de 4 000 utilisateurs, tous utilisant un motif d'extraction typique. Un cluster plus large de plus de 15 000 comptes a été identifié et complètement fermé le 28 juillet, selon CNBC et The Hacker News.

OpenAI attribue un cluster central de l'activité à des personnes liées à Moonshot AI, l'entreprise chinoise derrière Kimi, et affirme qu'il est incertain si tous les opérateurs remontent à un seul acteur. L'entreprise dit que son chiffrement n'a pas été cassé et qu'aucune base de données n'a été compromise. Anthropic a signalé des tentatives similaires par des entreprises chinoises d'IA quelques semaines plus tôt, a noté CNBC. Moonshot n'a pas immédiatement répondu aux demandes de commentaire de CNBC.

Les chercheurs qu'OpenAI crédite par nom ont publié une mise à jour le même jour. Joachim Schaeffer a écrit sur X que l'astuce fonctionnait toujours sur Azure, soutenant que sécuriser votre propre API ne sécurise pas l'écosystème plus large de fournisseurs cloud qui vendent aussi l'accès aux modèles. C'est la partie inconfortable pour quiconque traite la sécurité des modèles comme un problème par fournisseur.

Poursuites, listes de surveillance et un compilateur

Les incidents de sécurité sont passés au tribunal. LASST, une organisation à but non lucratif, poursuit OpenAI au tribunal supérieur du comté de San Francisco pour le piratage de Hugging Face de juillet 2026, selon Ars Technica. Le groupe soutient que la loi californienne sur l'accès complet aux données informatiques et la fraude s'applique même lorsqu'un essaim d'agents a mené l'attaque, et que ce n'est pas une défense que l'IA ait causé le dommage de manière autonome. OpenAI a dit à Ars que le procès est totalement infondé et a pointé vers son rapport technique et sa décision de retenir un modèle qui ne respectait pas les normes de sécurité. La plainte ne cherche aucun dommage, seulement des frais d'avocats et une ordonnance limitant l'accès des agents aux systèmes tiers.

Les outils open source sont aussi tirés dans de vieux combats. L'IFPI a demandé que yt-dlp, le téléchargeur YouTube avec plus de 190 000 étoiles GitHub, soit ajouté à la liste de surveillance de l'UE sur les contrefaçons et le piratage de 2027, a rapporté TorrentFreak le 30 septembre. La soumission nomme quatre développeurs par leurs pseudo publics et qualifie l'outil de difficile à contenir, bien qu'elle ne demande aucune mesure de retrait ou de blocage.

Ailleurs, les publications de la semaine étaient plus ordinaires. The Edison Design Group a publié le code source de son front end C/C++ le 30 septembre, le remettant à l'association à but non lucratif C++ Alliance, a rapporté heise. Le dépôt inclut un back-end générant du C, un pré-lien et des utilitaires, mais pas de bibliothèque standard complète. Le président d'EDG, John Spicer, a dit espérer que le front end s'établisse aux côtés de GCC et Clang.

Cet dernier point est le contrepoint discret à la panique des agents de la semaine. Certaines infrastructures sont rendues open source parce qu'elles sont en cours de fermeture, et non parce qu'elles sont armées.