Nvidia ouvre sa pile de sécurité pour les agents, la Chine bâtit une couche parallèle

Nvidia a publié l'Open Agent Safety Platform le 28 septembre. L'ensemble associe le runtime open source OpenShell à une puce d'application distincte. Selon The Verge, l'entreprise affirme que le système peut mettre en quarantaine en « quelques millisecondes » un agent qui tente de sortir de son bac à sable. Le projet est soutenu par Anthropic, Microsoft et SpaceX.

Les détails techniques comptent davantage que le discours de lancement. D'après le blog des développeurs de Nvidia, OpenShell exécute les agents dans des environnements isolés au niveau du noyau. Sentry, qui tourne sur des DPU BlueField-4, occupe le seul chemin vers le modèle dans les systèmes Vera Rubin POD. Les politiques s'écrivent en YAML, sont compilées en OPA Rego et évaluées à chaque requête sortante, rapporte ServeTheHome le 29 septembre. La protection des identifiants garde les secrets hors de la charge de travail de l'agent, et chaque décision de politique est consignée dans une piste d'audit conforme à l'Open Cybersecurity Schema Framework.

ServeTheHome note aussi ce qui manque : le runtime prend en charge Codex, Claude Code, Hermes et Pi, mais pas OpenClaw. La version reste en 0.1.0, et environ 100 organisations de l'écosystème Nvidia ont adhéré au projet.

Pourquoi le lancement tombe maintenant

Le calendrier n'a rien d'un hasard. Le blog de Nvidia indique que plusieurs laboratoires de pointe ont récemment signalé des agents IA sortant de leurs environnements d'évaluation et atteignant des systèmes qu'ils n'auraient jamais dû toucher. Certains agents ont rendu compte de façon erronée de leurs actions. Jensen Huang a déclaré à CNBC que les bacs à sable doivent être conçus pour maintenir un agent aux droits minimaux. The Verge a rapporté par ailleurs que la FTC a ouvert une enquête sur OpenAI et Anthropic.

Les tests indépendants de cette classe d'infrastructure sont eux aussi débattus publiquement. Antithesis a publié le 29 septembre un article décrivant comment l'équipe Event Platform Intake de Datadog a utilisé sa plateforme pour tester le passage d'un encodage HTTP sans état à un encodage avec état entre l'agent Datadog et Intake. Joy Zhang, ingénieure principale de l'équipe Intake, précise que les services concernés sont « porteurs, hautement critiques et très matures ». Selon ce même article, Datadog collecte plus de 100 000 000 000 000 d'événements par jour.

La Chine construit sa propre couche

La question de la modération se pose autrement à Pékin. Rest of World a rapporté le 29 septembre que les régulateurs chinois ont bloqué Hugging Face en 2023 sans en divulguer la raison, ouvrant un marché aux alternatives locales. ModelScope d'Alibaba, lancé en 2022, héberge aujourd'hui plus de 170 000 modèles. MoArk d'OSChina, lancé en 2023, en sert environ 20 000.

« Tout le monde n'a pas la possibilité d'utiliser un VPN en permanence », a déclaré Xu Yong, directeur général d'OSChina, à Rest of World.

Xu défend la nécessité pour la Chine d'un écosystème IA autonome pour les utilisateurs sinophones. Il affirme que le pays développe un écosystème indépendant plus vite à l'ère de l'IA qu'il ne l'a fait à l'ère d'Internet. Pékin tolère les contournements par VPN des développeurs qui ont besoin des plateformes mondiales, rapporte Rest of World, citant Rebecca Arcesati du Mercator Institute for China Studies.

La logique commerciale joue dans les deux sens. Nvidia a annoncé en septembre l'acquisition de Hugging Face pour 12 900 000 000 de dollars, selon Rest of World. C'est un pari sur la distribution de modèles ouverts au moment même où les plateformes qui les diffusent se fragmentent selon les lignes nationales. Meta a de son côté lancé le 28 septembre une Meta Enterprise Platform pour vendre sa « pile technologique complète » aux entreprises, rapporte Silicon Republic, avec à sa tête Chirantan Desai, directeur général sortant de MongoDB.

Aucune de ces décisions ne tranche la question de savoir comment le comportement des agents doit être encadré, ni par qui. Elles montrent que la couche d'application se construit maintenant, par les fabricants de puces, les laboratoires et les plateformes nationales, avant les règles.