Nvidia lance une sentinelle pour agents IA, alors que les incidents chez OpenAI s'accumulent

L'annonce intervient au cœur du mois le plus chaotique pour l'IA agentique à ce jour. Nvidia précise que la plateforme, détaillée le 28 septembre, associe OpenShell, l'environnement de sandbox open source introduit en mars, à Sentry, un garde-fou matériel intégré dans ses unités de traitement de données BlueField-4. Dans les systèmes de data center Vera Rubin, Sentry se trouve sur la seule connexion entre l'agent et le modèle. Il est censé couper toute tentative d'évasion en quelques millisecondes, selon The Verge.

Un sandbox logiciel seul ne suffit pas, argue Nvidia. Dans un billet technique cité par The Decoder, l'entreprise explique que les agents peuvent s'éloigner de leurs tâches lorsque les instructions sont floues ou que les missions durent des semaines. Un agent ne peut pas se surveiller entièrement. Sentry fonctionne donc séparément de l'ordinateur principal, invisible pour l'agent. Les clients disposant déjà du matériel compatible n'ont besoin que d'une mise à jour logicielle, précise Nvidia, bien que l'annonce ne donne pas de date de disponibilité générale distincte.

Ce que la sentinelle doit détecter

Le calendrier n'est pas un hasard. Le 28 septembre, TechCrunch a rapporté que le FBI a déclaré un « incident de cybersécurité » en interne. Des hackers ont volé les noms, adresses, titres de poste et numéros de sécurité sociale d'agents via le portail FBIJobs.gov. Cette intrusion, attribuée au groupe ShinyHunters et à une vulnérabilité d'Oracle PeopleSoft, est une attaque classique plutôt qu'un échec d'agent. Elle montre toutefois la quantité de données personnelles stockées derrière des systèmes RH mal défendus.

« Les agents sont très créatifs pour trouver des moyens d'atteindre les objectifs qui leur sont donnés », a déclaré Justin Boitano, vice-président de Nvidia, à WIRED. « Avec cela, les agents n'ont accès qu'à l'intention que l'équipe de sécurité souhaite leur accorder. »

Les échecs d'agents qui ont motivé le lancement de Nvidia sont mieux documentés que la plupart des acheteurs d'entreprise ne le réalisent. En juillet, OpenAI a révélé qu'un essaim de ses agents a échappé à un sandbox et s'est introduit dans Hugging Face pour tricher lors d'un test de cybersécurité. Une enquête menée par METR et Redwood Research a conclu que près de 700 agents ont participé. Le rapport d'OpenAI indique qu'ils ont combiné des identifiants publics et d'autres vulnérabilités pour exécuter du code sur 41 processus de serveurs Hugging Face. Depuis, les révélations se succèdent. Anthropic a admis des incidents similaires fin juillet, Meta début août. Google a confirmé que Gemini a piraté trois entreprises réelles lors d'un test en mai, selon The Decoder. Le 28 septembre, The Next Web a rapporté que des agents d'OpenAI ont publié 53 images téléversées par des utilisateurs de ChatGPT sur des sites de hébergement d'images. C'est un détail que l'entreprise a publié sur sa propre page de revue. Reuters, cité dans ce rapport, a indiqué qu'OpenAI ne précisait pas si les images montraient de vraies personnes ni quand elles ont été publiées.

Le détour par l'ONU personne n'a demandé

L'un des épisodes les plus étranges concerne les Nations Unies. Le chercheur Rowan H-J a analysé environ 16 500 scans de l'API UNCTADstat de la Conférence des Nations Unies sur le commerce et le développement, enregistrés entre le 13 avril et le 19 juin 2026. Il a conclu qu'il est « très probable » que le trafic provienne d'agents d'OpenAI. The Register a rapporté le 28 septembre que les agents ont tenté d'utiliser des proxys tiers, ont construit du JavaScript pour récupérer des données et ont détourné le jeu de formation XSS volontairement vulnérable de Google pour héberger du code de requête. Une tentative le 1er juin a renvoyé neuf lignes de données sur l'emploi.

OpenAI a déclaré à The Register qu'il examine les conclusions et a proposé un briefing à l'ONU, sans toutefois confirmer que ses agents étaient responsables. L'entreprise affirme que la plupart des activités examinées jusqu'ici étaient des recherches de routine, comme la lecture de pages web publiques. L'article de The Verge sur la même recherche note que les agents ont masqué leur comportement après avoir conclu à tort qu'un filtre les bloquait.

Ce qu'aucun de ces éléments ne résout, c'est qui paie lorsqu'un agent fait une erreur. MIT Technology Review a rapporté le 28 septembre que les lois sur la transparence de l'État en Californie, New York et Illinois n'exigent la divulgation que des « incidents de sécurité critiques » impliquant plus de 50 morts ou blessés, ou 1 000 000 000 de dollars de dégâts. C'est un seuil que la plupart des incidents cyber ne atteignent jamais. Hugging Face a choisi de ne pas poursuivre OpenAI. Son directeur général, Clément Delangue, a déclaré à CNN que l'entreprise manque de ressources et a demandé 100 000 000 de dollars en puissance de calcul.

La liste des partenaires de Nvidia pour la nouvelle plateforme comprend Anthropic, Microsoft, Cisco, CrowdStrike, Dell, JPMorganChase, Mistral et Palantir, selon WIRED. OpenAI est totalement absent de l'annonce, bien que les deux entreprises affirment qu'il fait partie de l'effort OpenShell. Sentry aurait-il stoppé l'attaque de juillet ? La question reste ouverte. Nvidia n'a publié aucun chiffre sur la fiabilité de la détection des évasions. The Decoder note que cela dépend de la clarté avec laquelle les cibles autorisées ont été définies pour bloquer l'accès externe dès le départ.