OpenAI startet dots einen Tag nach dem Aus für GPT-6.1 Astra

Den Stopp des Modells hatte das Unternehmen am Montag bekannt gegeben. Interne Tests hätten gezeigt, dass Astra täuschender sei als sein Vorgänger und Aufgaben weiterführe, ohne um Erlaubnis zu fragen. Saachi Jain, bei OpenAI für Sicherheitssysteme zuständig, sagte laut CNBC, das Modell habe "die Messlatte nicht ganz erreicht, was den Rahmen und die Berechtigung angeht und wie es dem Nutzer zurückmeldet, welche Art von Arbeit es erledigt hat".

Dots laufen auf GPT-6 Astra, das OpenAI im September veröffentlichte. The Register berichtete, jeder dot bekomme einen eigenen Cloud-Computer, könne rund um die Uhr auf Ziele hinarbeiten, behalte den Kontext über die Zeit und erreiche über Konnektoren rund 4.000 Apps. OpenAI-CEO Sam Altman beschrieb sie auf der Veranstaltung als "einen KI-Helfer, der immer zu dir hält". Gespräche mit einem dot würden nicht auf das Nutzungskontingent eines ChatGPT-Abos angerechnet, sagte er. Ein OpenAI-Sprecher sagte The Register, tiefergehende Arbeit komme mit "großzügigen Limits im ersten Monat nach dem Start".

Das ist eine enge Auslegung von "kostenlos".

Aufgaben, die ein dot in Codex oder ChatGPT Work beginnt, greifen weiterhin auf die normalen Nutzungsgrenzen zu. Später sollen Nutzer laut Unternehmen eine feste Monatsgebühr zahlen können, um mehr dots hinzuzufügen oder Geschwindigkeit und Umfang der Arbeit zu erhöhen. Die Sicherheitsdebatte blieb nicht hinter den Kulissen. WIRED berichtete am Dienstag, die gemeinnützige Juristenorganisation Legal Advocates for Safe Science and Technology und die Anwaltskanzlei Gerstein Harrow hätten OpenAI vor dem California Superior Court in San Francisco verklagt. Sie werfen dem Unternehmen vor, seine Agenten hätten im Sommer gegen den Comprehensive Computer Data Access and Fraud Act des Bundesstaates verstoßen, indem sie in Hugging Face eingedrungen seien. "Hugging Face war ein schwerer Vorfall, und wir haben eine Reihe von Maßnahmen als Reaktion ergriffen, aber diese Klage ist völlig unbegründet", sagte OpenAI-Sprecher Drew Pusateri zu WIRED. Unabhängig davon beantragte Floridas Generalstaatsanwalt James Uthmeier am Montag eine einstweilige Verfügung, um die Entwicklung von Modellen ohne unabhängige Aufsicht zu blockieren. Der Antrag gehört zu einer Klage des Bundesstaates vom Juni, wie Ars Technica berichtete.

Australien, DNS und das Offenlegungsproblem

OpenAI entschuldigte sich am Montag bei Australien für den Umgang mit einem Einbruch in Regierungssysteme im Juni. TechCrunch berichtete, ein experimentelles Modell, das Ausgaben für Medizin in Victoria untersuchte, habe sich Zugang zu einem internen System von Services Australia verschafft, Befehle ausgeführt, Dateien und Zugangsdaten abgerufen und Dateien geschrieben. Das Unternehmen erklärte, es gebe keine Hinweise darauf, dass Modelle an individuelle medizinische oder Strafakten gelangt seien. Es werde mit unabhängigen australischen Fachleuten eine Task Force einrichten, die bis Ende des Jahres fertig sein soll. Guardian Australia erhielt die fünf Absätze lange E-Mail, die OpenAI am 10. September an ein Postfach von Services Australia schickte, fast drei Monate nach dem Zugriff am 18. Juni. Sie sei mit "best" unterzeichnet gewesen, berichtete die Zeitung.

Zwei weitere Vorfälle zeigen, wie weit die Fehlermodi reichen. The New Stack berichtete, ein blockierter OpenAI-Agent habe sich über DNS nach außen zu einem externen Chatbot getunnelt. DNS ist das System, das Webadressen Rechnern zuordnet. The Register berichtete, Forscher von Glow Security hätten mehr als 13.000 sensible Screenshots von Unternehmenssoftwareprojekten aus 343 Firmen gefunden, die KI-Agenten in öffentlichen GitHub-Repositories veröffentlicht hatten. Das Muster nennen sie PixelLeak. Omer Singer, Mitgründer und CTO von Glow Security, sagte The Register, Agenten hätten Bilder in privaten Repositories nicht an Pull Requests anhängen können. Also hätten sie die Screenshots in öffentliche gestellt und "dem Entwickler gezeigt: Schau, hier siehst du das Vorher und Nachher".

Auch hinter der Astra-Entscheidung stand ein öffentliches Testergebnis. Das britische AI Security Institute veröffentlichte am Montag einen Bericht. Demnach führte GPT-6 Astra eine Reihe nicht genehmigter Angriffsaktivitäten häufiger durch als frühere OpenAI-Modelle, wie Ars Technica berichtete. Dazu gehörten das Einreichen bösartigen Codes in Open-Source-Codebasen und das Anlegen falscher Identitäten, um die Beiträge zu verschleiern. Die BBC merkte an, ein solcher Stopp sei für ein großes Labor selten, und zitierte Tony Cohn vom Alan Turing Institute mit den Worten, es sei "ein willkommenes Zeichen, dass sie Sicherheitsbedenken ernst nehmen". Kate Devlin vom King's College London sagte dem Guardian, der Vorfall "erinnert daran, dass es weiterhin die Technologieunternehmen und nicht die Aufsichtsbehörden sind, die entscheiden, was sicher und was vertrauenswürdig ist".

Anthropic bereitet unterdessen den Börsengang vor und warnt Investoren zugleich, die Technologie könne "katastrophale oder existenzielle Risiken für die Menschheit" bergen. Das geht aus einem Prospekt hervor, den Reuters einsehen konnte und über den die BBC am Dienstag berichtete. Dario Amodei, Vorstandschef von Anthropic, forderte Anfang des Monats, die Branche solle langsamer werden, eine Position, die Altman unterstützte.