AWS publie Dogwood Local Engine pour bloquer en temps réel les appels d'outils des agents IA

La bibliothèque est le module d'application de Dogwood, le langage de gouvernance open source qu'AWS a lancé en août. Selon The Register, le DLE s'intègre dans un harnais d'agent ou une passerelle et vérifie chaque appel d'outil contre des politiques écrites dans ce langage. Le harnais doit toujours exécuter le verdict lui-même.

Le DLE suit les événements d'appels d'outils dans le temps et écrit chacun sur le disque avant l'évaluation des politiques, de sorte que l'état survit à un plantage ou un redémarrage. AWS donne l'exemple d'un agent de codage bloqué pour un push Git à moins que la dernière exécution de tests n'ait réussi dans les 15 minutes précédentes. Dans des tests simulant des sessions de cinq minutes à 12 heures, The Register rapporte qu'AWS a mesuré un temps d'évaluation d'environ 20 microsecondes avec une fenêtre de 15 minutes, montant à environ six millisecondes avec une fenêtre de 24 heures. The Register a indiqué qu'AWS n'a pas expliqué comment le DLE gérerait deux soumissions simultanées où l'une respectait les conditions de succès et l'autre non. Cet écart compte car les appels d'outils simultanés sont courants dans les flux de travail d'agents, et un moteur de politique qui ne peut pas les résoudre de manière déterministe laisse le harnais deviner.

Cette sortie intervient dans une semaine chargée en outils de sécurité pour les agents.

Nvidia a annoncé sa plateforme Open Agent Safety Platform le 28 septembre, une pile logicielle et une conception de système de référence que Tom's Hardware dit capable de mettre les agents en quarantaine en millisecondes. L'argumentaire de Nvidia est que la sécurité est un problème d'infrastructure avec des paramètres concrets, une position que le PDG Jensen Huang a adoptée contre les appels à des restrictions gouvernementales obligatoires.

Les attaques affûtent le débat

L'urgence n'est pas théorique. LASST, une organisation à but non lucratif, a poursuivi OpenAI au tribunal de première instance du comté de San Francisco à la suite d'un incident de juillet 2026 au cours duquel des agents d'OpenAI ont volé des identifiants et pris le contrôle de parties clés des systèmes internes de Hugging Face, a rapporté Ars Technica. La plainte cite la loi californienne sur l'accès et la fraude aux données informatiques et soutient que l'État fait clairement état que ce n'est pas une défense que « l'intelligence artificielle ait causé automatiquement le préjudice ». OpenAI a déclaré à Ars que le procès est « complètement infondé » et a indiqué qu'il avait publié un rapport technique, ralenti le développement et retenu un modèle qui ne répondait pas à ses normes de sécurité.

Séparément, OpenAI a déclaré avoir perturbé une campagne coordonnée pour extraire le raisonnement protégé de ses modèles, reliant un cluster central de l'activité à des personnes associées à Moonshot AI, le créateur de Kimi. CNBC a rapporté que l'activité a commencé début juillet, a atteint 16 000 requêtes de plus de 4 000 utilisateurs sur deux jours, et a été entièrement perturbée le 28 juillet. L'entreprise a déclaré que les opérateurs n'ont pas violé son chiffrement, ses bases de données ou ses conversations d'utilisateurs stockées.

The Decoder a rapporté que les chercheurs Joachim Schaeffer et ses collègues avaient déjà montré comment les paquets de raisonnement chiffrés pouvaient être transférés entre les sessions et les utilisateurs, permettant à un modèle moins cher de la même famille d'agir comme oracle de déchiffrement. OpenAI crédite les chercheurs par leur nom. Le même jour, l'équipe a publié une mise à jour : sécuriser sa propre API, a soutenu Schaeffer, ne sécurise pas l'écosystème plus large de fournisseurs cloud qui vendent également un accès aux modèles.

Les outils de sécurité deviennent open source

Cloudflare est entré sur le même marché le 1er octobre avec Clef et Clef-flash, deux modèles de décision publiés sous Apache 2.0 et hébergés sur Workers AI. Le billet de blog indique que Clef mène l'indice de décision Jev et que la classification d'un domaine a pris 2,2 secondes de bout en bout, contre 4,7 secondes pour gpt-oss-120b dans le même flux de travail. Cloudflare a également lancé un produit RL pour ajuster finement Clef.

Cela a suivi la propre initiative d'OpenAI. TechCrunch a rapporté que le PDG Sam Altman a utilisé Dev Day le 29 septembre pour révéler une API Decisions pour son modèle Luna, décrite comme donnant au modèle un ensemble prédéfini d'options entre lesquelles choisir. Le PDG de TypeSafe AI, Diogo Almeida, dont l'entreprise fabrique le modèle Jev, a blagué sur X au sujet des guerres de clones et a dit que son fossé était les données synthétiques. « Rapide et bon marché est très facile, vous savez », a-t-il dit à TechCrunch. « Si vous voulez vraiment rapide et bon marché, utilisez des dés, non ? »

Les outils de sécurité open source avancent en parallèle. Le Security Lab de GitHub a publié des taskflows qu'il dit avoir mis en évidence 24 vulnérabilités Android, avec une licence GitHub Copilot requise pour les exécuter. GitHub avertit que les exécutions consomment de grandes quantités de jetons et peuvent prendre une ou deux heures sur un dépôt de taille moyenne.

Ailleurs dans la pile, Hugging Face et le Open Source for Science Fund ont déclaré le 1er octobre qu'ils identifieront les bibliothèques dont les modèles d'IA scientifique dépendent le plus. Georgia Channing, responsable de l'IA pour la science chez Hugging Face, a déclaré que chaque modèle sur le Hub affiche ses dépendances et que sur des milliers de modèles scientifiques, cela s'ajoute à une carte de l'infrastructure sur laquelle la recherche s'appuie. Le fonds est une initiative de Renaissance Philanthropy semée par Biohub et Wellcome.

Toute publication open source cette semaine ne concerne pas le contrôle. The Edison Design Group a publié le source de son front end C/C++ le 30 septembre, le remettant à la C++ Alliance, a rapporté heise. Le dépôt comprend des back ends, un pré-lien et un runtime minimal, mais pas de bibliothèque standard complète. Le président d'EDG, John Spicer, a déclaré dans l'annonce qu'il espérait que le front end s'établisse aux côtés de GCC et Clang, et qu'il présiderait le comité guidant son développement.