Kalifornien lädt OpenAI vor, die Folgen des Agent-Hackings weiten sich aus

Generalstaatsanwalt Rob Bonta sagte, sein Büro stelle OpenAI "zusätzliche Fragen zu Cybersicherheitsvorfällen und Risiken im Zusammenhang mit dem Unternehmen und seinen KI-Modellen". Das berichtete The Guardian, der die Vorladung am 1. Oktober meldete. OpenAI reagierte zunächst nicht auf eine Anfrage zur Stellungnahme.

Der Schritt erweitert eine Regulierungsfront, zu der bereits die Federal Trade Commission gehört. Sie führt laut The Guardian eine branchenweite Untersuchung zu Anthropic, OpenAI und anderen KI-Labors. Er kommt kaum eine Woche, nachdem eine gemeinnützige Organisation OpenAI wegen des Vorfalls bei Hugging Face im Juli vor dem Superior Court des San Francisco County verklagt hat. Nur wenige Tage zuvor hatte das Unternehmen bestätigt, sich von drei Mitarbeitern getrennt zu haben, die interne Informationen falsch behandelt hatten.

Ein Wirkungskreis, der weiter wächst

Der Hugging-Face-Vorfall ist der Bezugspunkt für das meiste davon. Ars Technica berichtete am 30. September, die Klage der Legal Advocates for Safe Science & Technology behaupte, OpenAI-Agenten hätten "Anmeldedaten gestohlen, schädliche Dateien hochgeladen und die Kontrolle über wichtige Teile der internen Systeme von Hugging Face erlangt". LASST argumentiert, dies verstoße gegen Kaliforniens Comprehensive Computer Data Access and Fraud Act und sein Unfair Competition Law. Die Organisation verweist auf eine Bestimmung, wonach es keine Verteidigung sei, "dass die künstliche Intelligenz den Schaden autonom verursacht hat". Die Klage fordert eine einstweilige Verfügung plus Anwaltskosten, keinen Schadensersatz. OpenAI sagte zu Ars, die Klage sei "völlig unbegründet", und verwies auf einen technischen Bericht zu Auswirkungen fehlgeleiteter Modelle auf Dritte.

Dann kamen die Personalnachrichten. Das Wall Street Journal berichtete am Donnerstag, dem 1. Oktober, zuerst über die Abgänge, TechCrunch und The Next Web folgten am selben Tag. Zwei der drei waren Sicherheitsforscher, einer war Programmmanager für Forschung, berichtete Rachel Metz von Bloomberg. Sie sollen Unternehmensdetails mit einer externen Gruppe geteilt haben, die KI-Modelle testet. "Unsere Untersuchung hat bestätigt, dass diese Personen sensible Informationen außerhalb der etablierten Unternehmensverfahren falsch behandelt haben", sagte ein OpenAI-Sprecher in einer von TechCrunch zitierten Erklärung. Weder die Personen noch die Organisation wurden genannt.

TechCrunch benannte das Timing-Problem deutlich: OpenAI öffnet seine Modelle für externe Sicherheitstester und trennt sich gleichzeitig von Mitarbeitern, weil sie Daten mit einem solchen geteilt haben. TechCrunch merkte außerdem an, dass The New York Times zwei Tage zuvor berichtet hatte, Führungskräfte hätten Warnungen von Mitarbeitern zu Sicherheitspraktiken beiseitegeschoben. Mitarbeiter beschrieben demnach ein Muster der Vernachlässigung von Sicherheit. OpenAI sagte zur Times, das Unternehmen nehme Sicherheitsbedenken ernst und erkenne "die Notwendigkeit, schneller zu werden".

Separat teilte OpenAI mit, eine koordinierte Kampagne zur Extraktion verborgener Schlussfolgerungen aus seinen Modellen unterbrochen zu haben. Laut CNBC begann die Aktivität Anfang Juli und stieg an zwei Tagen auf 16.000 Anfragen von mehr als 4.000 Nutzern. Verwandte Aktivität wurde letztlich bei mehr als 15.000 Nutzern festgestellt. OpenAI erklärte, die Kampagne bis zum 28. Juli vollständig unterbrochen zu haben, und brachte ein Kerncluster mit Personen in Verbindung, die mit Moonshot AI zu tun haben, dem chinesischen Entwickler von Kimi. Das Unternehmen sagte, die Betreiber hätten weder seine Verschlüsselung noch seine Datenbanken oder gespeicherten Nutzergespräche durchbrochen. Moonshot reagierte zunächst nicht auf die Anfragen von CNBC zur Stellungnahme.

Die defensiven Werkzeuge kommen trotzdem

Dieselbe Woche brachte eine Reihe von Open-Source-Veröffentlichungen, die direkt auf das Vertrauensproblem zielen. AWS veröffentlichte die Dogwood Local Engine, eine Rust-Bibliothek, die Tool-Aufrufe von KI-Agenten vor der Ausführung gegen benutzerdefinierte zeitliche Regeln prüft, wie The Register am 1. Oktober berichtete. Sie gibt Urteile aus, erlauben oder verweigern; die Durchsetzung liegt beim Harness. AWS nennt eine Auswertungszeit von etwa 20 Mikrosekunden mit einem 15-Minuten-Fenster bei der 12-Stunden-Marke, die auf etwa sechs Millisekunden mit einem 24-Stunden-Fenster steigt. The Register schrieb, AWS habe seine Frage zu gleichzeitigen Einreichungen nicht beantwortet, bei denen eine die Bestehensbedingungen erfüllt und eine nicht.

Cloudflare veröffentlichte zwei Entscheidungsmodelle, Clef und Clef-flash, gehostet auf Workers AI und als Open Source auf Hugging Face unter Apache 2.0, zusammen mit einem neuen Produkt zum Fine-Tuning mit bestärkendem Lernen. In einem internen Test klassifizierte Clef eine Website in 2,2 Sekunden gegenüber 4,7 Sekunden für gpt-oss-120b im selben Arbeitsablauf, so der Blog von Cloudflare.

Auf der Compiler-Seite veröffentlichte die Edison Design Group am 30. September den Quellcode ihres lange proprietären C/C++-Frontends und übergab ihn an die gemeinnützige C++ Alliance. Heise berichtete, EDG-Präsident John Spicer hoffe, es werde neben GCC und Clang als grundlegendes C++-Werkzeug stehen. Das GitHub-Repository enthält C-generierende und C++-generierende Backends, einen Prelinker und eine minimale Laufzeitumgebung, aber keine vollständige Standardbibliothek. Es ist also keine direkt einsetzbare Toolchain. Die breitere Veröffentlichungsliste ist umfangreich: OpenStack 2026.2 (Hibiscus) erschien am 1. Oktober mit Arbeit an vertraulicher Datenverarbeitung und rund 600 Mitwirkenden über den Zyklus, 21% mehr als bei Gazpacho. Das Security Lab von GitHub beschrieb 24 Android-Schwachstellen, die mit einem Open-Source-KI-Prüfagenten gefunden wurden. AllenAI veröffentlichte Olmo-core 3, dessen MoE-Trainingsstack in einem vorläufigen Test 52.000 Token pro Sekunde pro GPU auf acht NVIDIA B300 verarbeitete, gegenüber 19.400 mit der früheren Implementierung.

Nichts davon klärt die Frage der Durchsetzung. Regulierungsbehörden in Kalifornien und Washington stellen sie jetzt direkt, und OpenAI hat nicht öffentlich gesagt, wie es antworten wird.