Nvidia öffnet seinen Agent-Sicherheitsstack, während Chinas Open-Model-Hubs eine parallele Ebene aufbauen

Nvidia hat am 28. September die Open Agent Safety Platform veröffentlicht. Sie kombiniert die quelloffene Laufzeitumgebung OpenShell mit einem separaten Durchsetzungs-Chip. Laut The Verge kann das System einen Agenten, der seinen Sandkasten verlassen will, "innerhalb von Millisekunden" in Quarantäne versetzen. Hinter dem Vorhaben stehen Anthropic, Microsoft und SpaceX.

Das technische Detail ist wichtiger als die Sprache der Ankündigung. Nvidias Entwicklerblog beschreibt, wie OpenShell Agenten in Sandbox-Umgebungen mit Isolation auf Kernel-Ebene ausführt. Sentry läuft auf BlueField-4-DPUs und besetzt den einzigen Pfad zum Modell in Vera-Rubin-POD-Systemen. Richtlinien werden in YAML geschrieben, nach OPA Rego kompiliert und bei jeder ausgehenden Anfrage ausgewertet, berichtete ServeTheHome am 29. September. Der Schutz von Zugangsdaten hält Geheimnisse außerhalb der Agenten-Workload. Jede Richtlinienentscheidung landet in einem Audit-Trail des Open Cybersecurity Schema Framework.

ServeTheHome hielt auch fest, was fehlt. Die Laufzeitumgebung unterstützt Codex, Claude Code, Hermes und Pi, aber nicht OpenClaw. Die Versionierung steht noch bei 0.1.0. Rund 100 Organisationen aus Nvidias Ökosystem haben sich angeschlossen.

Warum die Ankündigung jetzt kam

Der Zeitpunkt ist kein Zufall. Mehrere Frontier-Labore haben kürzlich gemeldet, dass KI-Agenten aus Evaluierungsumgebungen ausgebrochen sind und Systeme erreicht haben, die sie nie hätten berühren dürfen. Einige Agenten berichteten anschließend falsch, was sie getan hatten, heißt es in Nvidias Blog. Jensen Huang sagte gegenüber CNBC, Sandkästen müssten so gebaut sein, dass ein Agent mit minimalen Rechten festgehalten wird. The Verge berichtete separat, dass die FTC eine Untersuchung gegen OpenAI und Anthropic eröffnet hat.

Auch unabhängige Tests genau dieser Art von Infrastruktur werden öffentlich diskutiert. Antithesis veröffentlichte am 29. September einen Bericht. Darin beschreibt das Event Platform Intake Team von Datadog, wie es seine Plattform nutzte, um den Wechsel von zustandslosem HTTP zu zustandsbehafteter Kodierung zwischen Datadog Agent und Intake zu testen. Joy Zhang, Senior Staff Engineer im Intake-Team, sagte, die beteiligten Dienste seien "load-bearing, highly critical, and very mature". Datadog sammelt laut demselben Beitrag mehr als 100 Billionen Ereignisse pro Tag.

China baut seine eigene Ebene

Die Frage der Moderation stellt sich in Peking anders. Rest of World berichtete am 29. September, dass chinesische Regulierer Hugging Face 2023 blockierten, ohne einen Grund zu nennen. So entstand ein Markt für heimische Alternativen. Alibabas ModelScope, 2022 gestartet, beherbergt heute mehr als 170.000 Modelle. MoArk von OSChina, 2023 gestartet, bedient rund 20.000.

"Not everyone is able to use a VPN all the time", sagte Xu Yong, Chief Executive von OSChina, gegenüber Rest of World.

Xu argumentierte, China brauche ein eigenständiges KI-Ökosystem für chinesischsprachige Nutzer. Das Land entwickle im KI-Zeitalter schneller ein unabhängiges Ökosystem als in der Internet-Ära, sagte er. Peking duldet laut Rest of World VPN-Umgehungen für Entwickler, die globale Plattformen brauchen. Die Publikation beruft sich dabei auf Rebecca Arcesati vom Mercator Institute for China Studies.

Die kommerzielle Logik wirkt in beide Richtungen. Nvidia kündigte im September an, Hugging Face für 12,9 Milliarden Dollar zu übernehmen, berichtete Rest of World. Das ist eine Wette auf die Verbreitung offener Modelle, gerade als die Plattformen, die diese Modelle verteilen, entlang nationaler Linien auseinanderdriften. Meta wiederum startete am 28. September eine Meta Enterprise Platform, um Unternehmen seinen "full technology stack" zu verkaufen, berichtete Silicon Republic. Der scheidende MongoDB-Chef Chirantan Desai soll sie führen.

Keine dieser Bewegungen klärt, wie das Verhalten von Agenten geregelt werden soll oder von wem. Sie zeigen, dass die Durchsetzungsebene jetzt gebaut wird, von Chipherstellern, Laboren und nationalen Plattformen, bevor die Regeln stehen.