Zum Inhalt
WeltzeitEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal über KI und Technologieereignisse · analysen · interviews · technischer hintergrund

Suche
LIVE
›

OpenAI wirft Moonshot AI eine Destillationskampagne vor, während Open-Weight-Konkurrenten aufholen

OpenAI erklärte am 1. Oktober, eine koordinierte Kampagne zur Extraktion von Reasoning aus seinen Modellen gestoppt zu haben. Ein Kerncluster der Aktivität ordnet das Unternehmen Personen zu, die mit dem chinesischen Entwickler Moonshot AI in Verbindung stehen, dem Hersteller von Kimi. In zwei Tagen Ende Juli seien die Anfragen auf 16.000 von mehr als 4.000 Nutzern gestiegen, heißt es.

KI & ModelleAnalyseLena BrandtVeröffentlicht: 1. Oktober 20266 Min. LesezeitQuellen 7
OpenAI wirft Moonshot AI eine Destillationskampagne vor, während Open-Weight-Konkurrenten aufholen

CNBC berichtete am Donnerstag über die Offenlegung, The Register griff sie am selben Tag auf und wies auf den Zeitpunkt hin: dieselbe Woche, in der Anthropic mit eigenen Vorwürfen gegen chinesische Entwickler an die Öffentlichkeit ging. Laut OpenAI begann die Aktivität Anfang Juli und erreichte am 24. und 25. Juli ihren Höhepunkt. Bis zum 28. Juli sei die Kampagne vollständig unterbunden worden.

Es wurde nichts kompromittiert.

OpenAI sagte gegenüber CNBC, die Betreiber hätten weder die Verschlüsselung gebrochen noch Datenbanken kompromittiert oder auf gespeicherte Nutzergespräche zugegriffen. Stattdessen manipulierten sie nach Angaben des Unternehmens Modellinteraktionen so, dass geschütztes Reasoning in einer für den Anfragenden sichtbaren Form reproduziert werden konnte. The Register zitiert OpenAIs eigene Formulierung aus einem Blogbeitrag vom Mittwoch: „Die Betreiber haben unsere Verschlüsselung nicht gebrochen, keine Datenbank kompromittiert und keinen direkten Zugriff auf gespeicherte Nutzergespräche erlangt.“

Was Destillation hier tatsächlich bedeutet

OpenAI nennt die Technik „adversarial distillation“. Der Gedanke ist im maschinellen Lernen nicht neu: Die Ausgaben eines Modells dienen dazu, ein anderes zu trainieren oder zu verbessern. Was OpenAI beschreibt, ist die hochskalierte Variante, bei der Massenabfragen darauf ausgelegt sind, das Reasoning und die Fähigkeiten eines größeren Modells zu reproduzieren und nicht nur dessen fertige Antworten. Das Unternehmen argumentiert, wer Reasoning extrahiere, könne fortschrittliches Verhalten nachbauen, ohne dasselbe Geld in Training und Sicherheitsarbeit zu stecken. OpenAI rahmt den Fall als Sicherheits- und Staatssicherheitsfrage, nicht nur als Geschäftsfrage.

The Register war deutlich in der Bewertung der Außenwirkung. Die Schlagzeile vom 30. September nannte OpenAIs Beschwerde ironisch und wies darauf hin, dass OpenAI „im Zuge von Urheberrechtsstreitigkeiten riesige Mengen an Internetinhalten aufgesogen“ habe, während es die Destillation der eigenen Modelle als Sicherheitsrisiko behandle. Diese Lesart ist das stärkste Gegenargument in der aktuellen Berichterstattung, und sie lässt sich klar benennen: Dasselbe Argument über Trainingsdaten wirkt je nachdem, wer es vorbringt, anders.

OpenAI zufolge ist unklar, ob alle beteiligten Betreiber zu einem einzigen Akteur gehörten. Nur einen „Kerncluster“ rechnet das Unternehmen Personen zu, die mit Moonshot AI in Verbindung stehen. Moonshot reagierte nicht unmittelbar auf Anfragen von CNBC oder The Register nach einer Stellungnahme. The Register fragte OpenAI zudem, welche Modelle Ziel der Angriffe waren, und erhielt keine Antwort. Das ist ein wichtiges Detail, denn wie schwer ein Destillationsvorwurf wiegt, hängt davon ab, was kopiert wurde.

„Adversarial distillation birgt Sicherheits- und Staatssicherheitsrisiken“, erklärte OpenAI am Mittwoch. „Extrahiertes Reasoning könnte genutzt werden, um ein anderes Modell zu trainieren, ohne die Schutzmaßnahmen zu bewahren, die für die nutzerseitigen Ausgaben des Originalmodells gelten.“

Der größere Streit um offene Gewichte

Der Vorwurf fällt in einen breiteren Wandel bei der Verteilung von KI-Kapazität. Open-Weight-Modelle sind von einer Nischengewohnheit zu einem ernstzunehmenden Anteil am Produktionsverkehr geworden. Jüngste Branchenberichte, die im Kontextmaterial des Dossiers zitiert werden, behaupten, Open-Weight-Modelle hätten erstmals die Mehrheit der KI-Token verarbeitet, und Token-Rechnungen drängten Unternehmenslasten in Richtung offener Gewichte. Nichts davon stammt aus den unten genannten Quellen, also als Richtung der Entwicklung lesen, nicht als geprüfte Zahl.

Verlässlich ist, dass der Druck real ist. Anthropics Claude Opus 5.5, eine Woche vor OpenAIs Blogbeitrag veröffentlicht, kommt laut The Register mit einer Abwehr gegen Destillation namens „preserved thinking“, eingeführt zusammen mit Fable 5.1. Das ist eine Antwort auf Produktebene auf ein Problem auf Trainingsebene. Wenn Modellhersteller jetzt Funktionen gegen Extraktion in ausgelieferte Modelle einbauen, behandeln sie Destillation als Dauerzustand und nicht als einmaligen Vorfall.

Auch auf Regierungsseite gibt es eine Aktenlage. The Register vermerkt, dass Ende Juli Michael Kratsios, Berater von Präsident Donald Trump für Wissenschaft und Technologie, Moonshot AI beschuldigte, sein Modell Kimi K3 durch Destillation von Anthropics Fable gebaut zu haben. Dieser Vorwurf liegt rund zwei Monate vor OpenAIs Blogbeitrag und betrifft das Modell eines anderen Unternehmens, was darauf hindeutet, dass die Anschuldigungen nicht auf ein Labor oder einen Vorfall beschränkt sind.

Unterdessen liefert der Open-Weight-Stack weiter

Während US-Labore über Kopieren streiten, veröffentlichte das Ökosystem der offenen Gewichte diese Woche eine stetige Folge von Arbeiten. Die Forschungsabteilung von Meta brachte Context Language Models heraus, eine Methode, die den Kontext eines Modells wie eine Datei behandelt, die das Modell selbst aktualisiert. Das Repository, aus einem Team von der University of Washington, den Meta Superintelligence Labs, dem MIT und den Trillium Labs, meldet 11,4 Prozent höhere Genauigkeit bei 21,5 Prozent weniger FLOPs auf BrowseComp-Plus und eine Verbesserung um 47,6 Prozent für Qwen3.5-9B auf demselben Benchmark nach Online-Reinforcement-Learning, mit 12 Prozent weniger FLOPs.

Separat veröffentlichten das UK AI Security Institute und Meridian Labs Inspect, ein Open-Source-Framework zur Evaluierung von Frontier-Modellen. Inspect bringt mehr als 200 vorgefertigte Evaluierungen mit und unterstützt den Betrieb beliebiger externer Agenten wie Claude Code, Codex CLI und Gemini CLI in einer Sandbox. Es ist die Art Infrastruktur, die unabhängige Tests von Open-Weight-Modellen billiger macht, was für jeden unangenehm ist, der argumentiert, der Transfer von Fähigkeiten müsse eingeschränkt werden.

Dazu kommt eine Freiwilligen-Variante. Ein Projekt namens Coop trainiert vorab ein kleines Modell auf gespendeter Consumer-Hardware und kostenlosen Service-Tarifen, wobei Pseudo-Gradienten als Hugging-Face-Pull-Requests eingereicht und von einem zustandslosen GitHub-Actions-Cron-Job zusammengeführt werden. Der erste Durchlauf, ein Modell mit 15.000.000 Parametern auf TinyStories, endete nach sechs Tagen über dem Chinchilla-optimalen Budget, mit einem Validierungsverlust, der von 9,01 auf 2,8 fiel. Es ist klein. Es ist zugleich der Beleg, dass die Trainingsschleife ohne Rechenzentrum laufen kann.

Und ein Nicht-Transformer-Modell namens PSSA, von Grund auf in Rust geschrieben, beansprucht Inferenz in linearer Zeit mit einer rekurrenten State-Space-Schicht und einer episodischen Gedächtnisbank. Das Repository des Projekts gibt an, es erzeuge Text etwa zwölfmal schneller als ein vergleichbarer Transformer auf derselben CPU und lerne bei gleichen Parametern schneller, wobei die Trainingspipeline weiterhin von DeepSpeed abhängt, eine Einschränkung, die die Autoren einräumen. Die Benchmark-Angaben sind Aussagen des Projekts, keine unabhängig geprüften Ergebnisse.

Warum der Vorwurf schwer zu beurteilen ist

Das Unangenehme daran ist, dass beide Seiten auf echtes Verhalten zeigen können. OpenAI kann auf 16.000 Anfragen in zwei Tagen von mehr als 4.000 Nutzern verweisen, ein Muster, das nach Angaben des Unternehmens gegen seine Nutzungsbedingungen verstieß. Kritiker können auf die Herkunft der Trainingsdaten jedes in den USA gebauten Frontier-Modells verweisen. Keiner der beiden Fakten hebt den anderen auf, und das Dossier enthält nicht genug Details, um zu klären, welches Modell Ziel war oder wie viel Fähigkeit tatsächlich übertragen wurde.

OpenAI erklärt, es habe die Konten gesperrt, die Kontrollen bei der Anmeldung und der Infrastruktur verschärft, die Überwachung ausgeweitet und einen Weg geschlossen, über den jemand das verschlüsselte Reasoning eines anderen Nutzers wiedergeben konnte, um dessen Inhalte zu rekonstruieren. Die Erkenntnisse teilte das Unternehmen über das Frontier Model Forum und staatliche Informationskanäle. Das sind konkrete Gegenmaßnahmen, und sie beschreiben eine Abwehr gegen Extraktion, keine Lösung für die zugrunde liegende Ökonomie: Solange Destillation billiger ist als Training, wird es jemand versuchen. Bei einem Volumen von 9.000.000.000 Token und mehr bleibt der Anreiz bestehen.

Kommentare 0

Quellen

7
  1. 01AI race heats up as OpenAI flags alleged model-copying campaignEN
  2. 02Irony alert: OpenAI whines that Chinese model stole its special IP that it stole from everybody elseEN
  3. 03Context Language Models (CLMs)EN
  4. 04Inspect: An open-source framework for large language model evaluationsEN
  5. 05Coop: A small language model pretrained by volunteersEN
  6. 06PSSA: A non-transformer language model written from scratch in RustEN
  7. 07OpenAI unveils AI assistant 'dots' while safety worries delay new modelEN

Alle Zahlen und Zitate in diesem Text stammen aus den unten genannten Quellen.

Die Materialien wurden vom Redaktionsteam mit Unterstützung von KI erstellt.

Lena Brandt

Lena Brandt

KI, Modelle und Technik

Lena Brandt schreibt für FLASH24 über Technik, KI und Modelle sowie Medien und Internet und stützt sich dabei auf Herstellerangaben, Studien und öffentlich zugängliche Datensätze, statt Pressemitteilungen ungeprüft zu übernehmen. Bei Modellvergleichen kontrolliert sie Benchmark-Werte, Trainingsdaten und Versionsnummern und rechnet Angaben zu Rechenleistung und Kosten selbst nach. Sie spricht mit Entwicklern und Forschern, wartet auf angekündigte Updates und vergleicht Releases, bevor sie eine Einschätzung abgibt. Privat beschäftigt sie sich mit 3D-Druck, alten Rechnern und der Frage, wie Modelle aus Internetmüll lernen – Themen, die regelmäßig in ihre Texte einfließen. Sie publiziert keine Zahlen, deren Quelle sie nicht selbst überprüfen konnte.

Redaktion →

Kommentare

0
  1. Noch keine Kommentare — seien Sie der Erste.

Kommentar schreiben

Kommentare sind öffentlich sichtbar. Wir veröffentlichen keine Beleidigungen, Werbung oder Spam.