Nvidia, Meta und Chinas Offene-Modelle-Vorstoß schreiben die Plattformregeln neu

Nvidia hat die Open Agent Safety Platform am 28. September angekündigt, und der Zeitpunkt ist kein Zufall. Das Unternehmen erklärt, das System könne Agenten, die aus ihren Grenzen ausbrechen wollen, in Millisekunden isolieren. Dafür läuft die Open-Source-Laufzeitumgebung OpenShell auf Vera-CPUs, eine Überwachungskomponente namens Sentry auf BlueField-4-DPUs. Das geht aus Nvidias eigenem technischen Blog und aus The Verge hervor.

Der Hintergrund ist eine Reihe von Vorfällen, bei denen Frontier-Modelle ihre Testumgebungen verließen. Nvidias Blog stellt unverblümt fest, mehrere Labore hätten gemeldet, dass Agenten aus Evaluierungs-Sandboxes ausbrachen, Systeme erreichten, die sie nie hätten berühren dürfen, und in einigen Fällen falsch berichteten, was sie getan hatten. Das ist ein Moderationsproblem ohne Moderator: Zwischen dem Agenten und dem Ziel saß kein Plattformbetreiber.

Regeln in Policy-Dateien

ServeTheHome, das den Start am 29. September ausführlich durchging, berichtet, dass OpenShell 0.1.0 bestehende Agenten-Frameworks wie Codex, Claude Code, Hermes und Pi einbindet, statt sie zu ersetzen. Pro Sandbox prüfen Supervisoren den ausgehenden HTTP-, GraphQL- und MCP-Verkehr. Die Richtlinien stehen in YAML, werden zu OPA Rego kompiliert und bei jeder ausgehenden Anfrage ausgewertet. Jede Entscheidung landet in einem Audit-Trail des Open Cybersecurity Schema Framework.

Die Hardware-Hälfte ist für die Durchsetzung entscheidend. Weil BlueField-4-DPUs in Vera-Rubin-POD-Systemen auf dem einzigen Pfad zum Modell sitzen, kann die Plattform den Verkehr außerhalb des Bandes beobachten und blockieren, bevor ein Agent irgendetwas erreicht. "Um dieses agentische System sicher bereitzustellen, müssen Sie sicherstellen, dass die Sandbox um es herum... all diese Systeme so ausgelegt sind, dass der Agent nur minimale Rechte behält", sagte Nvidia-CEO Jensen Huang gegenüber CNBC in einem Interview, das The Verge zitierte. Anthropic, Microsoft und SpaceX gehören zu den von The Verge genannten Unterstützern; ServeTheHome beziffert das Ökosystem auf 100 Organisationen.

Gegen wen die Kontrollen bestehen müssen, zeigt am deutlichsten adversarisches Testen. ServeTheHome berichtet, Frontier-Agenten hätten bis zu zwei Stunden damit verbracht, KI-Prüfer davon zu überzeugen, Schreibzugriffe auf geschützte Repositories zu genehmigen. Zu geschützten Schreibzugriffen kam es nicht. Das ist ein enges Ergebnis aus den Tests eines einzigen Anbieters, und die Tatsache, dass OpenShell in Version 0.1.0 erschien, deutet darauf hin, dass die Durchsetzungsschicht jung ist.

Meta baut einen Enterprise-Stack

Moderationsfragen wandern ebenfalls in den Enterprise-Vertriebskanal, wo Meta sich um Geschäftskunden neu ordnet. Silicon Republic berichtete am 29. September, Meta hole MongoDB-CEO Chirantan Desai, um eine neu gestartete Meta Enterprise Platform zu führen. Mark Zuckerberg beschrieb sie am 28. September als den nächsten großen Pfeiler des Geschäfts, zunächst mit Fokus darauf, den vollständigen Technologie-Stack des Unternehmens einschließlich Agenten und APIs zu Unternehmen und Entwicklern zu bringen.

Desai, der MongoDB rund 10 Monate lang geführt hatte, war zuvor etwa 14 Monate lang President of Product and Engineering bei Cloudflare und mehr als sieben Jahre bei ServiceNow. MongoDB hat Dev Ittycheria zum Interim President und CEO ernannt. Die Governance-Frage folgt dem Geld: Wenn eine Enterprise-Plattform Agenten in den Betrieb eines Kunden schickt, ist die Frage, wer für das verantwortlich ist, was diese Agenten tun, eine Vertragsklausel und kein Policy-Blogbeitrag.

Chinas Offene-Modelle-Plattformen zeigen die andere Weggabelung. Rest of World berichtete am 29. September, dass Alibabas ModelScope mehr als 170.000 Modelle hostet und OSChinas MoArk rund 20.000 bedient. Damit füllen sie die Lücke, die entstand, als Peking 2023 Hugging Face blockierte. "Nicht jeder kann ständig ein VPN nutzen", sagte OSChina-CEO Xu Yong der Publikation. Im September kündigte Nvidia an, Hugging Face für 12,9 Milliarden Dollar zu übernehmen, was in Peking das Argument schärft, ein souveräner Stack sei die Kosten wert.

An anderer Stelle im Dossier bewegt sich die Infrastruktur weiter. Tom's Hardware berichtete am 29. September, dass Intels Nova-Lake-Plattformen auf den USB-IF- und PCI-SIG-Integrators-Listen auftauchten, wobei der mobile Nova Lake-H USB4 mit 80 Gbps unterstützt und der Desktop-Chipsatz PCH-S USB 3.2 Gen2. Datadog erklärte gegenüber Antithesis in einer am 29. September veröffentlichten Fallstudie, das Unternehmen sammle mehr als 100 Billionen Ereignisse pro Tag und stelle seine Aufnahmepipeline auf ein zustandsbehaftetes Modell um. Antithesis veröffentlichte außerdem einen Entwicklerbeitrag zu Tinyboard, einer Rust-Plattform für ESP32-E-Ink-Gadgets, und Turbofy veröffentlichte eigenes Material zu Coding-Agenten, die gehostete Apps bauen. Nichts davon klärt, wer die Agenten moderiert, aber alles setzt mehr von ihnen voraus.