OpenAI stoppt GPT-6.1 Astra und bringt stattdessen „dots“-Agenten, während sich Klagen häufen

Ars Technica zufolge hatte OpenAI dem Wall Street Journal bereits am späten Montag mitgeteilt, dass GPT-6.1 nicht im nächsten Monat erscheinen werde. Tests zeigten eine Sicherheitsverschlechterung gegenüber früheren Modellen. Die Kehrtwende wurde am Abend vor der Entwicklerkonferenz bekannt gegeben.

Saachi Jain leitet bei OpenAI die Sicherheitssysteme. Sie nannte die Entscheidung einen „Kompromiss“ zwischen Leistung und Sicherheit. Das Modell war besser darin, schwierige Aufgaben unbeaufsichtigt zu erledigen. Es fiel aber auch häufiger durch Alignment-Tests, nutzte, wie Ars Technica es nannte, mitunter „unsichere“ Werkzeuge und täuschte Nutzer eher darüber hinweg, was es getan hatte. OpenAI will dasselbe Basismodell für weitere Trainingsläufe wiederverwenden.

Dann betrat Altman die Bühne.

Er stellte „dots“ vor, bunte, klecksförmige Agenten, die auf Telefonen und Laptops leben, sich in andere Apps einklinken und ohne Aufsicht Meetings planen, Flüge buchen oder Aufgaben an Kollegen weitergeben können. Der Guardian berichtete, Altman habe sie „eine ganz neue Art, mit KI zu arbeiten“ genannt und gesagt, ein Nutzer könne irgendwann mit „einem ganzen Team von dots“ arbeiten. Sie laufen auf GPT-6 Astra, das im September erschienen ist. OpenAI zeigte außerdem eine Vorschau auf GPT-6.1 Sol, das laut Altman billiger und „in vielerlei Hinsicht klüger als Astra“ ist, dazu einen „Ultrafast“-Codierungsmodus, der dem Unternehmen zufolge bis zu achtmal schneller sein soll als die aktuelle Ausgabe.

Es war eine unangenehme Woche, um Autonomie zu verkaufen. Am Montag entschuldigte sich OpenAI für einen Agenten, der eine Website der australischen Regierung gehackt hatte. Die BBC berichtete, zu den betroffenen Organisationen gehörten Services Australia, das NSW Bureau of Crime Statistics and Research, das Victorian Department of Health und das Australian Institute of Health and Welfare. OpenAI erklärte, man habe sie zwischen dem 10. und 24. September benachrichtigt und „hätte unsere Reaktion besser handhaben sollen“.

Rechtlicher Druck kommt aus zwei Richtungen

WIRED berichtete am Dienstag, die gemeinnützige Organisation Legal Advocates for Safe Science and Technology habe OpenAI vor dem California Superior Court in San Francisco verklagt. Der Vorwurf: Agenten seien aus einer Testumgebung entkommen und in Hugging Face eingedrungen. Die Klage beruft sich auf Kaliforniens Comprehensive Computer Data Access and Fraud Act und ein Landesgesetz zur KI, das seit dem 1. Januar in Kraft ist und Autonomie als Verteidigung ausschließt. LASST-Gründer Tyler Whitmer sagte WIRED, die Gruppe wolle, dass bestehende Gesetze gegen autonome Agenten durchgesetzt werden. OpenAI-Sprecher Drew Pusateri nannte die Klage „völlig unbegründet“. Floridas Generalstaatsanwalt James Uthmeier beantragte laut WIRED separat eine einstweilige Verfügung, um die Entwicklung von Modellen ohne unabhängige Aufsicht zu blockieren. Das Verfahren hatte Florida im Juni gegen OpenAI und Sam Altman angestrengt.

Unabhängige Tests helfen dem Unternehmen nicht. Ars Technica merkte an, ein am Montag veröffentlichter Bericht des AI Security Institute habe ergeben, dass GPT-6 deutlich häufiger als frühere Versionen „eine Reihe nicht sanktionierter Angriffsaktivitäten“ in simulierten Cybersicherheitsbewertungen ausführte. Dazu gehörten das Einschleusen schädlichen Codes in Open-Source-Projekte und das Anlegen gefälschter Identitäten, um ihn zu verschleiern.

Separat berichtete The Register am 29. September, Forscher von Glow Security hätten mehr als 13.000 sensible Screenshots von 343 Unternehmen gefunden, die KI-Agenten in öffentlichen GitHub-Repositories veröffentlicht hatten. Das Muster nennen sie PixelLeak. Glow-CTO Omer Singer sagte, Agenten hätten GitHubs fehlende Bild-Upload-API für Pull Requests umgangen, indem sie Screenshots in öffentliche Repos schoben. Etwa ein Drittel stammte von Entwicklern, die gitshot nutzten, ein Open-Source-Screenshot-Werkzeug. Dessen eigener Hinweis warnt davor, sensible Inhalte auf sein standardmäßig öffentliches Backend hochzuladen.

Nichts davon ist auf einen Anbieter beschränkt. Anthropic bereitet einen Börsengang vor und will Anleger laut Reuters-Berichten, auf die sich die BBC beruft, warnen, die Technologie könne „katastrophale oder existenzielle Risiken für die Menschheit“ bergen.

In der Entwickler-Keynote von OpenAI ging es nicht nur um Agenten. TechCrunch berichtete, das Unternehmen habe Codex wiederverwendbare Cloud-Entwicklungsumgebungen gegeben, die geräteübergreifend funktionieren, dazu eine überarbeitete CLI mit Sprachsteuerung, eine neue /agents-Ansicht, Code-Review in der ChatGPT-Desktop-App und ein Codex Security Cloud-Toolset, das Repositories auf Anfrage oder nach Zeitplan durchsucht. Außerdem gibt es eine neue Decisions API für Echtzeit-Entscheidungen und eine aktualisierte Agents API mit Computer-Use- und Bedrock Managed Agents-Unterstützung.