Zum Inhalt
WeltzeitEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal über KI und Technologieereignisse · analysen · interviews · technischer hintergrund

Suche
LIVE
›

Anthropic beziffert KI-Hacking: GLM-5.3 schafft 50 Exploits, Mythos 56

Anthropics neuer Frontier-Red-Teaming-Bericht kommt zu dem Ergebnis, dass das offene Modell GLM-5.3 von Zhipu AI in 50 von 410 Läufen vollständige Exploits baut und damit knapp hinter dem eigenen, nicht veröffentlichten Mythos-Modell mit 56 liegt, wie Tom's Hardware berichtet.

KI & ModelleErklärtLena BrandtVeröffentlicht: 3. Oktober 20264 Min. LesezeitQuellen 8
Anthropic beziffert KI-Hacking: GLM-5.3 schafft 50 Exploits, Mythos 56

Anthropic hat diese Woche einen Bericht veröffentlicht. Darin heißt es, ein populäres chinesisches Modell mit offenen Gewichten könne einen großen Teil dessen leisten, was das eigene, zugangsbeschränkte Modell zur Fehlersuche schafft. Tom's Hardware berichtete am 3. Oktober, das Unternehmen habe GLM-5.3 von Zhipu AI in einem abgeschotteten Benchmark namens Exploitbench getestet. Dort sollen Modelle funktionierende Exploits für Google Chrome bauen.

GLM-5.3 war in 410 Läufen 50 Mal erfolgreich. Anthropics Claude Mythos kam bei gleicher Zahl von Versuchen auf 56. Der Abstand liegt bei höchstens sieben Prozentpunkten. Der Bericht beziffert eine Sorge, die Regulierer seit Monaten vortragen: Fähigkeiten, die Anthropic hinter verschlossener Tür hält, sind bereits herunterladbar.

Dieselben Tests legen nahe, dass der Abstand nicht überall gleich groß ist. In einem internen Benchmark für "full control-flow hijacks" erreichte GLM-5.3 eine Erfolgsquote von 4 Prozent, Mythos kam auf 6 Prozent. Zwei weitere Modelle mit offenen Gewichten, Kimi K3 und DeepSeek V4.1 Flash, lagen bei diesem Maß laut demselben Bericht bei 0 Prozent.

Die Schutzmechanismen sind die andere Hälfte der Aussage. Tom's Hardware berichtet, Anthropic habe die Leitplanken von GLM-5.3 in 64 Prozent der Versuche mit einem täuschenden Prompt umgangen, mit vorbefüllten Thinking-Tokens in 92 Prozent. Eine dritte Methode, Abliteration, wird ebenfalls beschrieben. Anthropic verweist auf einen Bericht des Center for AI Standards and Innovation von Ende September. Demnach konnte GLM-5.3 Exploits auf einem Niveau nahe Mythos vollständig automatisieren.

Konkret wird die Sache beim Preis. Anthropic zufolge baute das leichtere GLM-5.3-Flash für 20,40 Dollar an Tokens verkettete Exploits auf bekannte Fehler. Verkettete Exploits verbinden mehrere Schwachstellen miteinander. Sie unterscheiden einen Machbarkeitsnachweis von einem Einbruch.

Warum der Vergleich mit Mythos zählt

Mythos ist nicht allgemein verfügbar. Anthropic gibt ausgewählten Partnern über Project Glasswing Zugang, eine Initiative, die im April angekündigt wurde. Das Versprechen lautet, Verteidiger bekämen das Modell zuerst, damit Fehler gepatcht sind, bevor Angreifer dasselbe Werkzeug haben.

Die Zahlen oben untergraben diesen Zeitplan. Wenn ein offenes Modell für 20,40 Dollar Exploits verkettet, ist das Fenster zwischen Entdeckung und Missbrauch kurz. Weder Anthropic noch Zhipu AI haben gesagt, wie der Bericht die Zugangsregeln ändern soll. Zhipu AI hat auf die konkreten Benchmark-Aussagen nicht öffentlich reagiert.

Auch die Verteidigungsseite hat Belege. The Register berichtete am 3. Oktober, eine kritische Lücke zur Umgehung der Authentifizierung im Rejetto HTTP File Server, geführt als CVE-2026-61500, sei mit Mythos gefunden und binnen Tagen in freier Wildbahn ausgenutzt worden. Der Horizon3-Forscher Zach Hanley, der den Fehler fand, veröffentlichte ein Exploit-Video. Nutzer sollten auf v3.2.1 oder neuer aktualisieren.

"We started detecting exploitation of CVE-2026-61500 in Rejetto HFS this evening," schrieb der VulnCheck-Forscher Patrick Garrity am Donnerstag auf LinkedIn, laut The Register.

Garrity sagte dem Register, die Aktivität am Donnerstag sei von einer IP-Adresse in China ausgegangen und habe verwundbare Hosts in den USA und Japan zum Ziel gehabt. Bis Freitag hatte er vier Treffer von zwei US-Adressen im selben Subnetz gesehen, die ihm zufolge ein Proxy waren. Sein Tracker zählt 286 CVEs, die Mythos und Project Glasswing gefunden haben. Bis zu jenem Donnerstag war nur eine davon ausgenutzt worden.

Dies ist der Maßstab, der mehr zählt als jede Punktzahl. Ein Modell, das Fehler schneller findet, als Hersteller sie patchen, verlagert das Risiko auf jeden, der ungepatchte Software betreibt. HFS stand bereits 2024 im Known Exploited Vulnerabilities-Katalog der CISA.

Schlussfolgern ist nicht dasselbe wie entscheiden

Das Messproblem zieht sich durch die übrigen KI-Veröffentlichungen der Woche. Aleph Alpha veröffentlichte am 3. Oktober Kolibri, ein Mixture-of-Experts-Modell mit 78.000.000.000 Parametern, davon 3.000.000.000 aktive, einem Kontext von 1.000.000 Tokens und Gewichten unter Apache 2.0. Das Unternehmen sagt, es erreiche Modelle mit bis zu viermal so vielen aktiven Parametern wie Nemotron 3 Super. Es räumt ein, dass öffentliche Benchmarks den Bedarf einzelner Branchen verfehlen, weshalb es eigene gebaut hat.

Kleinere Werkzeuge zielen auf engere Fragen. Das Projekt llama.cpp ergänzte am 2. Oktober einen Endpunkt für Entscheidungsmodelle, laut einem Beitrag der Hugging-Face-Community von Xuan-Son Nguyen und Victor Mustar. Er liefert in einem einzigen Vorwärtsdurchlauf eine Wahrscheinlichkeit für jede Option. ZeroLeaks veröffentlichte Shield Small, einen Klassifikator mit 118.000.000 Parametern gegen Prompt Injection. Er meldet mit seinen Regeln eine mittlere kategoriebalancierte Genauigkeit von 84,3 Prozent. Die eigene Modellkarte nennt diesen Wert ein bekanntes Testset und keine ungesehene Evaluierung.

Forschungsbenchmarks zeigen dieselbe Ungleichmäßigkeit. Ein am 28. September überarbeitetes Paper auf arXiv stellt PTXBench für GPU-Kernel-Arbeit vor. Kein evaluiertes Modell erreichte durchgängig das Niveau der Frontier-Bibliotheken, und die Erfolge brachen bei komplexen Attention-Backward-Workloads ein. ScholarCatalyst, ein Retrieval-Benchmark aus 184 Erstautoren und 207 Papers, ergab für agentische Suche 0,42 Recall@20 gegenüber 0,48 bei einfachem Embedding-Retrieval.

Diese Ergebnisse sind ein nützliches Gegengewicht zu Exploit-Zahlen. Ein Modell kann bei einer Aufgabe stark wirken und bei der nächsten durchschnittlich. Der gewählte Benchmark entscheidet über die Schlagzeile. Anthropics Bericht wurde nicht unabhängig reproduziert, und der Aufbau von Exploitbench stammt vom Unternehmen selbst.

Kommentare 0

Quellen

8
  1. 01Anthropic claims popular Chinese AI model has Mythos-class hacking abilitiesEN
  2. 02Anthropic's super bug-hunting model Mythos is hardcore good at math, as latest vuln under attack showsEN
  3. 03Kolibri Has Landed: A Sovereign Open-Weight ModelEN
  4. 04New in Llama.cpp: Decision ModelsEN
  5. 05Shield: A 118M model for detecting prompt injections and jailbreaksEN
  6. 06PTXBench: Benchmarking and Adapting LLMs for GPU Kernel OptimizationEN
  7. 07ScholarCatalyst: A Benchmark for Retrieving Papers That Inspire New ResearchEN
  8. 08What does the advent of powerful AI models mean for mathematicians like me?EN

Alle Zahlen und Zitate in diesem Text stammen aus den unten genannten Quellen.

Die Materialien wurden vom Redaktionsteam mit Unterstützung von KI erstellt.

Lena Brandt

Lena Brandt

KI, Modelle und Technik

Lena Brandt schreibt für FLASH24 über Technik, KI und Modelle sowie Medien und Internet und stützt sich dabei auf Herstellerangaben, Studien und öffentlich zugängliche Datensätze, statt Pressemitteilungen ungeprüft zu übernehmen. Bei Modellvergleichen kontrolliert sie Benchmark-Werte, Trainingsdaten und Versionsnummern und rechnet Angaben zu Rechenleistung und Kosten selbst nach. Sie spricht mit Entwicklern und Forschern, wartet auf angekündigte Updates und vergleicht Releases, bevor sie eine Einschätzung abgibt. Privat beschäftigt sie sich mit 3D-Druck, alten Rechnern und der Frage, wie Modelle aus Internetmüll lernen – Themen, die regelmäßig in ihre Texte einfließen. Sie publiziert keine Zahlen, deren Quelle sie nicht selbst überprüfen konnte.

Redaktion →

Kommentare

0
  1. Noch keine Kommentare — seien Sie der Erste.

Kommentar schreiben

Kommentare sind öffentlich sichtbar. Wir veröffentlichen keine Beleidigungen, Werbung oder Spam.