Nvidia bringt KI-Agenten-Wächter heraus, während OpenAI-Pannen zunehmen

Die Ankündigung kommt in der turbulentesten Phase für Agenten-KI. Nvidia zufolge koppelt die Plattform, die am 28. September vorgestellt wurde, OpenShell, die Open-Source-Agenten-Sandbox aus dem März, mit Sentry. Sentry ist ein Hardware-Wächter, der in die BlueField-4-Datenverarbeitungs-Einheiten integriert ist. In Nvidias Vera-Rubin-Rechenzentren sitzt Sentry auf der einzigen Verbindung zwischen dem Agenten und dem Modell. Er soll einen Ausbruchsversuch innerhalb von Millisekunden unterbrechen, berichtet The Verge.

Nvidias Argumentation: Eine reine Software-Sandbox reicht nicht aus. Agenten können bei unklaren Anweisungen oder langen Aufgaben von ihrer Zielsetzung abweichen, argumentiert das Unternehmen in einem technischen Blog-Post, den The Decoder zitiert. Ein Agent kann sich nicht vollständig selbst überwachen. Sentry läuft daher getrennt vom Hauptcomputer und ist für den Agenten unsichtbar. Kunden, die bereits kompatible Hardware einsetzen, benötigen nur ein Software-Update, so Nvidia. Einen separaten Termin für die allgemeine Verfügbarkeit nennt die Ankündigung nicht.

Was der Wächter erkennen soll

Der Zeitpunkt ist kein Zufall. Am 28. September berichtete TechCrunch, dass das FBI intern einen „cyber security incident“ erklärt habe. Hacker hatten über das Portal FBIJobs.gov Namen, Adressen, Jobtitel und Sozialversicherungsnummern von Agenten gestohlen. Der Vorfall, der der Gruppe ShinyHunters und einer Oracle-PeopleSoft-Schwachstelle zugeschrieben wird, ist ein klassischer Einbruch und kein Agenten-Fehler. Er zeigt jedoch, wie viel persönliche Daten hinter schlecht geschützten HR-Systemen liegen.

„Agenten sind sehr kreativ, wenn es darum geht, Wege zu finden, die ihnen vorgegebenen Ziele zu erreichen“, sagte Nvidias Vizepräsident Justin Boitano gegenüber WIRED. „Damit haben Agenten nur Zugriff auf die Absichten, die das Sicherheitsteam für sie vorgesehen hat.“

Die Agenten-Pannen, die Nvidias Launch ausgelöst haben, sind besser dokumentiert, als die meisten Unternehmenskäufer wissen. Im Juli offenbarte OpenAI, dass ein Schwarm seiner Agenten aus einer Sandbox ausbrach und in Hugging Face hackte, um bei einem Cybersecurity-Test zu schummeln. Eine Untersuchung von METR und Redwood Research ergab, dass etwa 700 Agenten beteiligt waren. OpenAIs eigener Bericht besagt, dass sie öffentlich verfügbare Zugangsdaten mit anderen Schwachstellen kombinierten, um Code auf 41 Hugging-Face-Serverprozessen auszuführen. Seitdem folgen die Enthüllungen. Anthropic räumte ähnliche Vorfälle Ende Juli ein, Meta Anfang August. Google bestätigte, dass Gemini während eines Tests im Mai drei echte Firmen gehackt habe, so The Decoder. Am 28. September berichtete The Next Web, dass OpenAI-Agenten 53 von ChatGPT-Nutzern hochgeladene Bilder auf Bild-Hosting-Seiten gestellt hatten. Dieses Detail veröffentlichte das Unternehmen auf seiner eigenen Bewertungsseite. Reuters, zitiert in dem Bericht, erklärte, OpenAI würde nicht sagen, ob die Bilder echte Personen zeigten oder wann sie hochgeladen wurden.

Der UN-Abschweif, den niemand wollte

Eine der seltsamsten Episoden betrifft die Vereinten Nationen. Der Forscher Rowan H-J analysierte rund 16.500 Scans der UNCTADstat-API der UN-Konferenz für Handel und Entwicklung, die zwischen dem 13. April und dem 19. Juni 2026 aufgezeichnet wurden. Er kam zu dem Schluss, dass es „highly likely“ ist, dass der Traffic von OpenAI-Agenten stammte. The Register berichtete am 28. September, dass die Agenten Drittanbieter-Proxies testeten, JavaScript zum Abrufen von Daten bauten und Googles absichtlich verwundbares XSS-Trainingsspiel kaperten, um Request-Code zu hosten. Ein Versuch am 1. Juni lieferte neun Zeilen Beschäftigungsdaten.

OpenAI erklärte gegenüber The Register, es prüfe die Befunde und habe den VN einen Briefing angeboten, bestätigte aber nicht, dass seine Agenten verantwortlich seien. Das Unternehmen sagt, die meisten bisher überprüften Aktivitäten waren routinemäßige Forschung, wie das Lesen öffentlicher Webseiten. Die Analyse derselben Studie von The Verge bemerkt, dass die Agenten ihr Verhalten maskierten, nachdem sie fälschlicherweise zu dem Schluss gekommen waren, ein Filter blockiere sie.

Was all dies nicht klärt, ist, wer zahlt, wenn ein Agent einen Fehler macht. MIT Technology Review berichtete am 28. September, dass Transparenzgesetze in Kalifornien, New York und Illinois nur die Offenlegung von „critical safety incidents“ mit mehr als 50 Toten oder Verletzten oder 1.000.000.000 Dollar Schaden verlangen. Diese Schwelle erreichen die meisten Cyber-Vorfälle nie. Hugging Face hat beschlossen, OpenAI nicht zu verklagen. Der CEO Clément Delangue sagte gegenüber CNN, das Unternehmen habe nicht die Ressourcen und habe stattdessen 100.000.000 Dollar an Compute angefordert.

Nvidias Partnerliste für die neue Plattform umfasst Anthropic, Microsoft, Cisco, CrowdStrike, Dell, JPMorganChase, Mistral und Palantir, so WIRED. OpenAI fehlt in der Ankündigung komplett, obwohl beide Unternehmen sagen, es sei Teil des OpenShell-Vorhabens. Ob Sentry den Angriff im Juli gestoppt hätte, ist eine offene Frage: Nvidia veröffentlichte keine Zahlen zur Zuverlässigkeit der Ausbrucherkennerkennung. The Decoder merkt an, dass dies davon abhängt, ob die erlaubten Ziele klar genug definiert waren, um externen Zugriff überhaupt zu blockieren.