Zum Inhalt
WeltzeitEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal über KI und Technologieereignisse · analysen · interviews · technischer hintergrund

Suche
LIVE
›

Anthropic: GLM-5.3 erreicht beim Schreiben von Exploits fast Mythos-Niveau

Anthropic hat einen Bericht veröffentlicht, laut dem GLM-5.3 von Zhipu AI Exploits fast auf dem Niveau des noch nicht veröffentlichten Claude-Mythos-Modells automatisieren kann. Tom's Hardware berichtete am 3. Oktober darüber. In Anthropics Exploitbench-Läufen baute GLM-5.3 in 410 Versuchen 50 funktionierende Chrome-Exploits; Mythos kam auf 56.

KI & ModelleErklärtKatrin HoffmannVeröffentlicht: 3. Oktober 20266 Min. LesezeitQuellen 8
Anthropic: GLM-5.3 erreicht beim Schreiben von Exploits fast Mythos-Niveau

Zhipu AIs offenes Modell GLM-5.3 lag bei einem Chrome-Exploit-Benchmark nur sechs erfolgreiche Exploits hinter Anthropics eigenem, noch unveröffentlichten Mythos. Das geht aus einem Bericht hervor, den Anthropic veröffentlicht hat und den Tom's Hardware am 3. Oktober aufgriff. Bei einem zweiten, internen Test betrug der Abstand zwei Prozentpunkte: GLM-5.3 erreichte eine Erfolgsquote von 4 Prozent bei "vollständigen Control-Flow-Hijacks", Mythos 6 Prozent. Kimi K3 und DeepSeek V4.1 Flash kamen bei dieser Messung auf 0 Prozent.

Die Behauptung ist weniger wegen des Punktestands relevant als wegen der Frage, wer diese Fähigkeit ausüben kann. Mythos ist das Modell, das Anthropic als zu gefährlich für eine öffentliche Freigabe bezeichnet. Der Zugang läuft über Project Glasswing, eine im April gestartete Initiative, die ausgewählten Partnern das Modell zur Fehlersuche gibt. Die Gewichte von GLM-5.3 sind offen. Wenn Anthropics Zahlen stimmen, ist der Abstand zwischen einem gesperrten Frontier-Modell und einem herunterladbaren Modell inzwischen klein genug, um darüber zu streiten. Dieser Streit hat jetzt eine Zahl, und die Zahl ist sechs.

Der Bericht von Anthropic besagt außerdem, dass sich das Standardmodell GLM-5.3 leicht an seinen eigenen Schutzmechanismen vorbeiführen lässt. Tom's Hardware nennt zwei Methoden. Ein täuschender Prompt, in dem das Modell einen feindlichen autonomen Agenten spielt, funktionierte in 64 Prozent der Fälle. Das Vorbelegen der Denk-Tokens, um eine Antwort zu erzwingen, gelang in 92 Prozent der Fälle. Eine dritte Methode, Abliteration, wird ebenfalls beschrieben. Nichts davon wurde unabhängig reproduziert.

Was der Benchmark tatsächlich gemessen hat

Exploitbench ist eine abgeschottete Umgebung, in der ein Modell versucht, Exploits für Google Chrome zu entwickeln. Anthropic führte pro Modell 410 Versuche durch. Der wichtigste Vergleich lautet 56 Erfolge für Mythos gegen 50 für GLM-5.3. Anthropic schreibt außerdem, GLM-5.3 habe verkettete Exploits selbstständig entwickelt. Die leichtere Variante Flash habe verkettete Exploits gegen bekannte Bugs für 20,40 Dollar an Tokens bauen können. Das entspricht je nach Verhältnis von Eingabe zu Ausgabe ungefähr 100 bis 300 Millionen Tokens.

Die Einschränkungen sollte man klar benennen. Es sind vom Hersteller selbst durchgeführte Benchmarks an einem Modell, mit dem der Hersteller konkurriert, und Anthropics Darstellung wurde schon früher angezweifelt. Tom's Hardware merkt an, dass Anthropic eine Regulierung der KI-Entwicklung fordert und zugleich Claude Opus 5.5 und Claude Sonnet 5.5 wenige Tage nach der Forderung seines CEO nach einer Verlangsamung der Frontier herausbrachte. Anthropic verweist auf einen Bericht des Center for AI Standards and Innovation von Ende September, dem zufolge GLM-5.3 Exploits vollständig auf einem Mythos ähnlichen Niveau automatisieren kann.

"We started detecting exploitation of CVE-2026-61500 in Rejetto HFS this evening," schrieb der Sicherheitsforscher Patrick Garrity von VulnCheck am Donnerstag auf LinkedIn.

Anthropic hat eigene Belege dafür, dass Fehlersuche auf Mythos-Niveau Folgen hat. The Register berichtete am 3. Oktober, dass eine kritische Authentifizierungslücke im Rejetto HTTP File Server, geführt als CVE-2026-61500, vom Horizon3-Forscher Zach Hanley mit Mythos gefunden wurde. Sie wird inzwischen angegriffen. Horizon3 ist im Juli Project Glasswing beigetreten. Die Ausnutzungsversuche kamen von einer IP-Adresse in China und richteten sich gegen Hosts in den USA und Japan, sagte Garrity gegenüber The Register. Spätere Zugriffe liefen über zwei US-Adressen im selben Subnetz, die ein Proxy zu sein schienen. Nutzer sollten auf HFS v3.2.1 oder neuer aktualisieren.

Garritys Tracker zählt nach Angaben von The Register bis Freitag 286 CVEs, die über Mythos und Project Glasswing gefunden wurden. Bis Donnerstag war nur eine davon in freier Wildbahn ausgenutzt worden. Dieses Verhältnis ist das Argument für den gesperrten Zugang: viele gefundene Bugs, bisher wenige Angriffe. Es ist zugleich das Argument dagegen, die Ausnutzungsdaten einer einzigen Woche als Sicherheitsgarantie zu lesen.

Warum sich Modellverhalten überhaupt schwer messen lässt

Eine separate Arbeit, die diese Woche erschien, legt nahe, dass Halluzinations- und Fähigkeits-Benchmarks wackliger sind, als ihre Werte vermuten lassen. Der Forschungsblog von Aleph Alpha beschreibt eine Trainingsmethode, die Fragebeantwortung in ein Spiel mit drei Beteiligten verwandelt. Ein Kontext stützt die richtige Antwort, einem anderen wurde der Beleg herausgeschnitten, und das Modell muss beim ersten antworten und beim zweiten passen. Über fünf QA-Benchmarks hinweg seien falsche Antworten bei unzureichendem Kontext um bis zu 35 Prozentpunkte gegenüber einem instruierten Modell gesunken. Gegenüber Standardtraining sanken sie um 18 bis 20 Punkte, während ein Grounding-Wert um bis zu 0,38 stieg.

Der Kern der Methode: Ein Benchmark-Wert sagt, dass eine Antwort richtig war, nicht woher sie kam. Ein Modell kann das abgerufene Dokument lesen, die Antwort aus dem Pre-Training erinnern oder sich auf ein irreführendes Signal stützen. Eine Quellenangabe zu verlangen klärt das nicht, weil das Modell das Zitat auswählt, nachdem es geantwortet hat.

Dasselbe Problem zeigt sich in der Retrieval-Forschung. ScholarCatalyst, ein Benchmark, für den 184 Erstautoren 207 aktuelle Informatikpublikationen bewerteten, ließ Modelle die früheren Arbeiten finden, die ein Projekt geprägt haben. Er nutzte nur Literatur, die es zum Projektbeginn gab. Agentische Suche war nicht besser als einfaches Embedding-Retrieval, 0,42 gegen 0,48 Recall@20. Ein Agent auf Basis von Claude Fable 5.1, der die fertigen Arbeiten beim Training gesehen haben könnte, erreichte 0,51.

PTXBench, ein am 28. September überarbeitetes arXiv-Papier, fand, dass kein bewertetes Modell bei der Kernel-Optimierung durchgehend mit Frontier-GPU-Bibliotheken mithielt. Es fand zudem, dass das Ausführen der richtigen Anweisungen nicht in wettbewerbsfähige Geschwindigkeit mündete. Die Autoren fine-tunten Qwen3.6-27B und stellten eine ungleichmäßige Generalisierung fest.

Auch die offene Seite bewegt sich

Anthropics Warnung fällt in eine Woche, in der offene Veröffentlichungen nicht abrissen. Aleph Alpha brachte am 3. Oktober Kolibri heraus, ein Mixture-of-Experts-Modell für Deutsch und Englisch mit 78 Milliarden Gesamtparametern und 3 Milliarden aktiven. Es hat einen Kontext von 1 Million Tokens und Apache-2.0-Gewichte auf Hugging Face. Es richtet sich an öffentliche Verwaltung, Industrie und Luftfahrt. Laut dem Unternehmen hält es mit Modellen bis zum Vierfachen seiner aktiven Parameterzahl mit, etwa Nemotron 3 Super.

Die Werkzeuge folgten einen Tag früher. Das Projekt llama.cpp teilte mit, sein Server unterstütze jetzt Entscheidungsmodelle über einen /v1/systemone-Endpunkt, nach dem Format, das mit TypeSafe's Jev eingeführt wurde. Bestehende Clients brauchen nur eine neue Basis-URL. Zu den gelisteten Modellen gehören Laya mit 421 Millionen Parametern und OpenJev mit 27 Milliarden, letzteres unter einer nicht kommerziellen Lizenz. Eine separate Veröffentlichung, Shield Small, ist ein Klassifikator mit 118 Millionen Parametern für Prompt-Injection und Jailbreak-Erkennung, der auf einer CPU läuft. Die Modellkarte nennt 71,8 Prozent Angriffs-Recall und 7,2 Prozent Falsch-Positiv-Rate auf einem während der Entwicklung genutzten Vergleichssatz.

Nichts davon klärt, ob GLM-5.3 so gefährlich ist, wie Anthropic behauptet. Öffentlich sind Anthropics Zahlen, die beschriebenen Methoden und ein steter Strom leistungsfähiger offener Modelle. Nicht öffentlich sind ein unabhängiger Test der Umgehungsraten bei den Schutzmechanismen oder eine Stellungnahme von Zhipu AI zu dem Bericht. Anthropic hat nicht gesagt, ob es die Ergebnisse vor der Veröffentlichung mit Zhipu geteilt hat.

Kommentare 0

Quellen

8
  1. 01Anthropic claims popular Chinese AI model has Mythos-class hacking abilitiesEN
  2. 02Anthropic's super bug-hunting model Mythos is hardcore good at math, as latest vuln under attack showsEN
  3. 03Bounding Hallucinations: Merlin-Arthur Protocols for Mutual-Information Bounds in Language ModelsEN
  4. 04ScholarCatalyst: A Benchmark for Retrieving Papers That Inspire New ResearchEN
  5. 05PTXBench: Benchmarking and Adapting LLMs for GPU Kernel Optimization with Architecture-specific PTXEN
  6. 06Kolibri Has Landed: A Sovereign Open-Weight ModelEN
  7. 07New in llama.cpp: Decision ModelsEN
  8. 08Shield: A 118M model for detecting prompt injections and jailbreaksEN

Alle Zahlen und Zitate in diesem Text stammen aus den unten genannten Quellen.

Die Materialien wurden vom Redaktionsteam mit Unterstützung von KI erstellt.

Katrin Hoffmann

Katrin Hoffmann

KI, Modelle und Technik

Katrin Hoffmann schreibt für FLASH24 über Technik, KI und Modelle sowie Medien und Internet und stützt sich dabei auf Primärquellen wie Herstellerangaben, Studien und Protokolle statt auf Pressemitteilungen. Bei Benchmarks prüft sie Messmethoden, Testumgebungen und Reproduzierbarkeit, bevor sie Zahlen übernimmt. Für ihre Artikel spricht sie mit Entwicklern und Forschern, wartet auf Konferenzankündigungen und vergleicht Versionsstände von Modellen und Standards. Privat betreibt sie Selfhosting und Heimnetze und dokumentiert ihre eigene Infrastruktur, was ihrer Redaktionsarbeit zugutekommt. Sie veröffentlicht keine Zahlen ohne nachvollziehbare Quelle.

Redaktion →

Kommentare

0
  1. Noch keine Kommentare — seien Sie der Erste.

Kommentar schreiben

Kommentare sind öffentlich sichtbar. Wir veröffentlichen keine Beleidigungen, Werbung oder Spam.