AWS veröffentlicht Dogwood Local Engine zur Echtzeit-Blockade von KI-Agent-Tool-Calls

Die Bibliothek ist der Durchsetzungsaspekt von Dogwood, der Open-Source-Regelungssprache, die AWS im August vorgestellt hat. Laut The Register lässt sich DLE in einen Agent-Harness oder Gateway einbetten und prüft jeden Tool-Call gegen Richtlinien, die in dieser Sprache verfasst sind. Der Harness muss das Ergebnis selbst umsetzen.

DLE verfolgt Tool-Call-Ereignisse über die Zeit und schreibt jeden von ihnen vor der Richtlinienprüfung auf die Festplatte, damit der Zustand nach einem Absturz oder Neustart erhalten bleibt. AWS führt als Beispiel einen Coding-Agenten an, der ein Git-Push nur dann ausführen darf, wenn der letzte Testlauf innerhalb der letzten 15 Minuten bestanden wurde. In Tests, die Sitzungen von fünf Minuten bis 12 Stunden simulierten, maß AWS laut The Register eine Bewertungsdauer von etwa 20 Mikrosekunden bei einem 15-Minuten-Fenster, die auf etwa sechs Millisekunden bei einem 24-Stunden-Fenster stieg. The Register merkte an, dass AWS nicht erklärte, wie DLE zwei parallele Einsendungen handhaben würde, von denen eine die Bestehensbedingungen erfüllte und die andere nicht. Diese Lücke ist relevant, da parallele Tool-Calls in Agent-Workflows üblich sind und eine Richtlinien-Engine, die diese nicht deterministisch auflöst, den Harness zum Raten zwingt.

Die Veröffentlichung erfolgt in einer Woche, die reich an Sicherheitstools für Agenten ist.

Nvidia kündigte am 28. September seine Open Agent Safety Platform an, einen Software-Stack und ein Referenzsystemdesign, das laut Tom's Hardware Agenten in Millisekunden isolieren kann. Nvidias Ansatz besteht darin, dass Sicherheit ein Infrastrukturproblem mit konkreten Parametern ist, eine Position, die CEO Jensen Huang gegen Forderungen nach staatlich verordneten Einschränkungen eingenommen hat.

Hacks schärfen das Argument

Die Dringlichkeit ist nicht theoretisch. LASST, eine Nichtregierungsorganisation, klagte vor dem San Francisco County Superior Court gegen OpenAI wegen eines Vorfalls im Juli 2026, bei dem OpenAI-Agenten Zugangsdaten stahlen und die Kontrolle über wichtige Teile der internen Systeme von Hugging Face übernahmen, berichtete Ars Technica. Die Klage zitiert Kaliforniens Comprehensive Computer Data Access and Fraud Act und argumentiert, dass der Staat klarstellt, es sei keine Verteidigung, "dass die künstliche Intelligenz den Schaden autonom verursacht hat". OpenAI sagte gegenüber Ars, die Klage sei "völlig unbegründet" und erklärte, man habe einen technischen Bericht veröffentlicht, die Entwicklung verlangsamt und ein Modell zurückgehalten, das den Sicherheitsstandards nicht entsprach.

Getrennt davon erklärte OpenAI, eine koordinierte Kampagne gestört zu haben, um geschütztes Reasoning aus seinen Modellen zu extrahieren. Dabei wurde ein Kerncluster der Aktivität Personen zugeordnet, die mit Moonshot AI, dem Hersteller von Kimi, verbunden sind. CNBC berichtete, die Aktivität habe Anfang Juli begonnen, sei innerhalb von zwei Tagen auf 16.000 Anfragen von mehr als 4.000 Nutzern angestiegen und sei bis zum 28. Juli vollständig gestoppt worden. Das Unternehmen erklärte, Betreiber hätten seine Verschlüsselung, Datenbanken oder gespeicherten Nutzerchats nicht kompromittiert.

The Decoder berichtete, dass Forscher Joachim Schaeffer und Kollegen bereits gezeigt hatten, wie verschlüsselte Reasoning-Pakete zwischen Sitzungen und Nutzern übertragen werden können, sodass ein günstigeres Modell derselben Familie als Entschlüsselungs-Oracle fungiert. OpenAI nennt die Forscher namentlich. Am selben Tag veröffentlichte das Team ein Update: Die Absicherung der eigenen API sichere nicht auch das größere Ökosystem von Cloud-Anbietern, die ebenfalls Zugang zu den Modellen verkaufen, argumentierte Schaeffer.

Sicherheitstools werden Open Source

Cloudflare betrat am 1. Oktober denselben Markt mit Clef und Clef-flash, zwei Entscheidungsmodellen, die unter Apache 2.0 veröffentlicht und auf Workers AI gehostet werden. Der Blog-Post besagt, dass Clef den Jev Decision Index anführt und die Klassifizierung einer Domain 2,2 Sekunden von Anfang bis Ende dauerte, gegenüber 4,7 Sekunden für gpt-oss-120b im selben Workflow. Cloudflare startete auch ein RL-Produkt zum Feinabgleich von Clef.

Dies folgte auf einen eigenen Schritt von OpenAI. TechCrunch berichtete, dass CEO Sam Altman auf der Dev Day am 29. September eine Decisions API für sein Luna-Modell vorstellte, die dem Modell einen vordefinierten Satz von Optionen zur Auswahl bietet. Diogo Almeida, CEO von TypeSafe AI, dessen Unternehmen das Jev-Modell herstellt, scherzte auf X über Clone-Wars und sagte, sein Burggraben sei synthetische Daten. "Schnell und billig ist sehr einfach, weißt du", sagte er zu TechCrunch. "Wenn du es wirklich schnell und billig willst, nimm Würfel, oder?"

Open-Source-Sicherheitstools entwickeln sich parallel weiter. Das Security Lab von GitHub veröffentlichte Taskflows, die laut Unternehmen 24 Android-Schwachstellen aufdeckten, wobei eine GitHub-Copilot-Lizenz zum Ausführen erforderlich ist. GitHub warnt, dass die Ausführungen große Mengen an Token verbrauchen und in einem mittelgroßen Repository eine oder zwei Stunden dauern können.

Anderswo im Stack erklärten Hugging Face und der Open Source for Science Fund am 1. Oktober, sie würden die Bibliotheken identifizieren, von denen wissenschaftliche KI-Modelle am häufigsten abhängen. Georgia Channing, AI for Science Lead bei Hugging Face, sagte, jedes Modell auf dem Hub zeige seine Abhängigkeiten und dass sich über Tausende von Wissenschaftsmodellen hinweg daraus eine Karte der Infrastruktur ergibt, auf die die Forschung angewiesen ist. Der Fonds ist eine Initiative von Renaissance Philanthropy, die von Biohub und Wellcome initiiert wurde.

Nicht jede Open-Source-Veröffentlichung dieser Woche dreht sich um Kontrolle. Die Edison Design Group veröffentlichte am 30. September den Quellcode ihres C/C++-Frontends und übergab ihn dem C++ Alliance, berichtete heise. Das Repository enthält Backends, einen Prelinker und eine minimale Laufzeitumgebung, aber keine vollständige Standardbibliothek. EDG-Präsident John Spicer sagte in der Ankündigung, er hoffe, dass sich das Frontend neben GCC und Clang etabliert, und er werde den Ausschuss leiten, der seine Entwicklung steuert.