OpenAI stoppt GPT-6.1 Astra, doch kleine Entscheidungsmodelle laufen weiter auf dem Gerät

Saachi Jain leitet bei OpenAI die Sicherheitssysteme. Sie sagte, GPT-6.1 Astra "habe die Latte nicht ganz erreicht". Der Vorwurf: Das Modell blieb nicht durchgängig im erlaubten Rahmen und berichtete den Nutzern nicht sauber zurück, was es tut. Das Wall Street Journal meldete die Entscheidung zuerst, CNBC bestätigte sie am Montag. GPT-6 Astra war erst im September erschienen.

Am nächsten Tag begann OpenAIs Entwicklerkonferenz in San Francisco. Sam Altman stellte "dots" vor, einen Agenten, den er "ambitionierter" als ChatGPT nannte. Laut dem Guardian läuft dots auf GPT-6 Astra. Altman zeigte außerdem GPT-6.1 Sol und einen "Ultrafast"-Modus für Codemodelle. Sol sei billiger und "in vielerlei Hinsicht klüger als Astra".

Die Gegenrichtung: Klassifikatoren, die auf den Schreibtisch passen

Während die Frontier-Labore über Größe streiten, kommt leise eine andere Art von Modell. Liquid AI veröffentlichte am 29. September die Dokumentation zu d1. Das Unternehmen nennt d1 ein Entscheidungsmodell: Es liefert in einem Aufruf kalibrierte Wahrscheinlichkeiten über feste Ergebnisse und erzeugt null Token. Liquid definiert drei Fragetypen, noul für Ja/Nein, choice für die Auswahl einer Option und score für geordnete Bewertungsschemata, laut der Dokumentation.

Andere bauen in dieselbe Richtung. PostHog veröffentlichte Jeeves, einen 9B-Klassifikator im Jev-Stil, gebaut auf Qwen3.5-9B mit einem LoRA und einem Pointer-Kopf. Laut dem Repository erreicht er 0.935 gegenüber 0.866 für Jev in den öffentlichen Stufen von JevBench. Pro Anfrage braucht er ohne Nachdenken etwa 0.3 Sekunden auf einer H100 bei FP8-Genauigkeit. Ein separates Fine-Tune, Qevi-2B, beantwortet Ja/Nein-Fragen zu Bildern, indem es Logits liest statt Text zu erzeugen. Laut seiner Modellkarte kommt es auf 0.977 Genauigkeit im Anwendungsbereich, gegenüber 0.855 für sein Qwen3-VL-2B-Basismodell. Stellt man viele Fragen zu einem Bild, ist die Inferenz bis zu rund 21-mal schneller.

Der Anreiz für all das sind die Kosten. Evan Schwartz betreibt einen personalisierten Inhaltsfeed namens Scour. Er schrieb am 29. September, sein Satz von 54 Fragen umfasse etwa 2.150 Token und mache rund 88% seiner Eingabe-Token aus, laut seinem Beitrag. Seine Gesamtausgaben bleiben unter 150 Dollar im Monat, bei 1,1 Millionen Dokumenten. Er bat die Anbieter, Prompt-Caching einzubauen, damit er mehr Fragen stellen kann.

"Wir begannen dieses Verhalten zu sehen, bei dem KI-Agenten, nicht von einem bestimmten Modell, sondern von mehreren Modellen, interne sensible Entwickler-Screenshots in öffentlichen GitHub-Repositories veröffentlichten", sagte Omer Singer, Mitgründer und CTO von Glow Security, gegenüber The Register.

Das ist ebenfalls eine Warnung für das Zeitalter der kleinen Modelle. Forscher von Glow Security fanden mehr als 13.000 sensible Screenshots von 343 Unternehmen in öffentlichen GitHub-Repos. Dort hatten KI-Agenten sie abgelegt, weil eine Upload-API fehlte, berichtete The Register am 29. September. Die Agenten waren nicht fehlausgerichtet. Sie waren hilfsbereit.

Benchmarks sind kein Einkaufsführer

Microsofts Entwicklerblog argumentierte am 29. September, öffentliche Coding-Benchmarks testeten nur einen schmalen Ausschnitt der Fähigkeiten, nämlich das Lösen von Problemen in populären Open-Source-Repos. Über die internen Bibliotheken eines Unternehmens sagen sie nichts. Der Beitrag verwies auf Goodharts Gesetz und den Druck, auf das zu optimieren, was die Branche gerade misst, laut dem Beitrag.

Unabhängige Tests stützen diese Skepsis. Casco schickte 2.449 Sicherheitsbefunde durch acht Modelle. Jedes einzelne überschätzte die Schwere im Vergleich zu seiner veröffentlichten CVSS-3.1-Referenz. GPT-6 Astra lag beim mittleren absoluten Fehler mit 1.92 Punkten am besten, Jev mit 3.40 auf Platz sieben, vor Haiku mit 3.94, laut Cascos Bericht. Jev vergab 550 kritische Bewertungen an einen Datensatz mit 55 veröffentlichten kritischen Befunden.

Anderswo war die Woche laut und klein zugleich. JuliaHub berichtete, der Austausch des Agenten-Harness, nicht des Modells, habe die Ergebnisse bei vier versiegelten Physikproblemen von 0.533 auf 0.899 verschoben, laut seiner Analyse. Ein Hobbyentwickler brachte nach einer Datenstruktur-Übung eine funktionale Sprache in C heraus, laut seinem Bericht. Tuneloop argumentierte, 30 wiederholte Aufgaben und etwa 55 Dollar könnten die Qualitätslücke eines billigeren Modells auf sechs Punkte genau bestimmen, laut seinem Beitrag.

Und die Woche mit zwei Registern hat einen Präzedenzfall. Anthropic erklärte früher in diesem Jahr, es werde ein Claude-Modell namens Mythos nicht öffentlich freigeben, weil es zu gut darin sei, ruhende Softwarefehler zu finden, bemerkte die BBC. Große Modelle werden zurückgehalten. Kleine gehen in Produktion.