L'outillage des agents se scinde en deux : les bacs à sable de Nvidia, les défections prédites par Gartner
Nvidia a lancé l'Open Agent Safety Platform le 28 septembre. La société affirme que son environnement d'exécution open source et sa pile de surveillance peuvent mettre en quarantaine un agent qui dérape en quelques millisecondes. Une nouvelle recherche chiffre de son côté la difficulté des agents à rester sur la tâche.

Nvidia a annoncé la plateforme le 28 septembre. Elle associe OpenShell, un environnement d'exécution qui trace les actions des agents et applique des règles sur des processeurs Vera, à Sentry, un chien de garde hors bande exécuté sur des DPU BlueField-4.
Tom's Hardware rapporte que Sentry peut mettre en quarantaine en quelques millisecondes un agent qui tente de sortir de son périmètre. Plus de 100 organisations travaillent avec cette technologie, selon The Robot Report, dont l'entreprise de robotique d'inspection Gecko Robotics. Jensen Huang a présenté la sécurité comme un problème d'ingénierie, pas de politique. « La sûreté et la sécurité exigent une ingénierie full-stack », a déclaré le PDG de Nvidia dans un communiqué relayé par The Robot Report. Justin Boitano, vice-président de l'IA d'entreprise chez Nvidia, a décrit ce design au même média comme l'équivalent d'un îlot de sécurité de voiture autonome. Le système principal gère la perception, et un domaine de confiance distinct fait échouer l'ensemble en sécurité.
La même semaine, une fuite et un banc d'essai
Le lancement est arrivé quelques jours après la publication de PixelLeak par l'entreprise de sécurité des postes de travail Glow. Ce rapport a montré que des agents de codage IA avaient téléversé plus de 13 000 captures d'écran internes sur des dépôts GitHub publics. The Decoder et Tom's Hardware en ont tous deux parlé. Les images provenaient de 343 organisations, ou de plus de 300 selon la version que l'on lit. Elles contenaient des données clients, des identifiants de connexion, des documents financiers et des fonctionnalités non publiées. La cause racine était banale. GitHub expose les pièces jointes image dans les pull requests via le navigateur, et les agents travaillent en ligne de commande, alors ils ont improvisé en créant des dépôts publics.
Des recherches indépendantes pointent un problème plus profond. Un article soumis à arXiv le 30 septembre, « Staying on Task », a évalué sept modèles à poids ouverts. Il a trouvé une chute de performance de 62,8 % lorsque la longueur de contexte passait de 4 000 à 128 000 tokens. Changer le format d'entrée coûtait 36,5 %. Augmenter la complexité locale de la tâche coûtait 39,9 %. Les auteurs qualifient ces points de faiblesses critiques pour les flux de travail agentiques à long horizon.
D'autres soumissions arXiv de la semaine attaquent le même manque. Une systématisation des risques concurrents a audité 22 rapports d'incident et 102 évaluations de sécurité publiées entre janvier 2025 et septembre 2026. Elle a constaté que dans 20 des 22 incidents, l'environnement lui-même permettait l'effet hors périmètre. Un autre banc d'essai sur le retrait sélectif a rapporté un rappel de retrait d'au plus 0,06 sur les modèles testés.
Les acheteurs se refroidissent
Gartner prévoit qu'en 2028, 70 % des entreprises abandonneront les systèmes d'IA agentique construits avec l'aide d'un fournisseur. Les coûts grimpent, et les clients peinent à modifier la technologie sans aide extérieure. The Register a rapporté la prévision le 30 septembre. L'analyste de Gartner Mukul Saha a déclaré que les missions d'ingénierie déployées sur le terrain les mieux cadrées fixent dès le premier jour la gouvernance, la propriété de la propriété intellectuelle, le transfert de connaissances et la stratégie de sortie. Le cabinet a aussi mis en garde contre le « FDE washing », où du conseil ordinaire est rebaptisé en quelque chose de plus spécialisé.
« Beaucoup de fournisseurs utilisent désormais “forward deployed” comme étiquette pour l'implémentation, les services professionnels, l'ingénierie de solutions ou le conseil en IA ; certains avec réflexion, d'autres parce que cela sonne plus stratégique », a déclaré Saha.
L'identité est l'autre point faible. The Hacker News a présenté un cadre traitant chaque agent comme une identité non humaine dotée d'un propriétaire humain, d'un périmètre défini et d'une date d'expiration. Il notait que les pipelines de déploiement créent généralement des identités d'agents, pas des flux RH, et contournent donc la gouvernance qui détecte les anomalies d'accès humaines. Le Top 10 de l'OWASP pour les applications LLM nomme directement ce mode de défaillance : agence excessive.
Les fournisseurs vendent dans cette anxiété. Restate, une startup berlinoise fondée par les créateurs d'Apache Flink, a levé 20 M$ en série A menée par Singular pour maintenir les agents en marche à travers les pannes, portant le financement total à 27 M$, selon The Next Web. Metaview a levé 60 M$ menés par Insight Partners pour placer des agents dans le recrutement, avec plus de 7 000 entreprises qui l'utilisent. Côté grand public, DoorDash a ouvert une liste d'attente pour un agent text-to-order sur Apple Messages. Airbnb a livré cette semaine une recherche propulsée par l'IA, son PDG Brian Chesky déclarant à TechCrunch que les chatbots sont la mauvaise interface pour naviguer.
Le fil conducteur de Dallas à arXiv est le même. L'outillage des agents arrive plus vite que les preuves de sa solidité. Les acheteurs qui ont le plus à perdre commencent à en tenir compte dans leurs prix.
Sources
14- 01Nvidia launches Open Agent Safety Platform to restrain rogue AI agentsEN
- 02Gecko Robotics works with NVIDIA to add AI agent security and controlEN
- 03Security startup finds more than 13,000 internal company screenshots that AI agents uploaded publiclyEN
- 04AI agents inadvertently leak 13,000+ internal screenshots from organizationsEN
- 05Staying on Task: Testing the Foundations of Long-Horizon Agent ReliabilityEN
- 06A Competing-Hazards Systematization of Loss of Control in Autonomous AgentsEN
- 07NAQD Env: A benchmark for selective withdrawal in language agentsEN
- 087 in 10 enterprises expected to abandon vendor-built agentic AI by 2028EN
- 09IAM for AI agents: A Practical Enterprise FrameworkEN
- 10Restate raises $20m to keep AI agents running when software failsEN
- 11Metaview raises $60m to put AI agents across the whole hiring processEN
- 12DoorDash launches an AI agent you can text to order foodEN
- 13Brian Chesky interview: AI agents need their own operating systemEN
- 14CNBC AI Forum live updates: Enterprise AI in DallasEN
Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.
Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.
Commentaires
0- Aucun commentaire — soyez le premier.