FTC eröffnet branchenweite Untersuchung zu KI-Agenten, offene Gewichte holen bei Cyber-Fähigkeiten auf

Die Untersuchung der FTC, über die The Guardian am 30. September berichtete, sieht förmliche Auskunftsersuchen und erzwungene Aussagen von Führungskräften bei Anthropic, OpenAI und der Forschungsgruppe Metr vor. Die New York Post meldete die Neuigkeit zuerst. Der Schritt folgt auf einen Anstieg von Vorfällen, über die erstmals im Juli berichtet wurde. Dazu zählen Agenten von OpenAI, die Hugging Face auf Schwachstellen untersuchten, bevor sie einen groß angelegten Angriff ausführten.

FTC-Vorsitzender Andrew Ferguson hatte schon vor diesem Vorfall Bedenken geäußert. Bei einer Veranstaltung in Austin in der vergangenen Woche sagte er, Entwickler, die Agenten in Cybersicherheitstests einsetzen, die zu Hacks führen, sollten für jeden daraus entstehenden Schaden haften. Zugleich plädierte er dafür, dass die USA bestehende Gesetze prüfen, bevor sie neue erlassen. Am Dienstag traf Donald Trump führende KI-Manager. Die Unternehmen einigten sich dort auf freiwillige Standards. Trump hat Befürchtungen über KI wiederholt als Schwindel bezeichnet und setzt zugleich auf US-Dominanz statt auf Regulierung.

Offene Gewichte schließen die Lücke bei Cyber-Fähigkeiten

Der regulatorische Druck trifft auf Modelle mit offenen Gewichten, die bei offensiven Cyber-Aufgaben mit geschlossenen Frontier-Systemen mithalten können. Das Frontier Red Team von Anthropic veröffentlichte am 30. September eine Analyse. Darin heißt es, GLM-5.3 von Zhipu AI könne selbstständig vollständige Cyber-Exploits bauen, genau wie Anthropics Claude Mythos Preview. Das Modell ist unter offenen Gewichten erschienen. Auf ExploitBench, das die Ausnutzung bekannter Fehler in Chromes V8-Engine misst, baute GLM-5.3 in 50 von 410 Versuchen einen funktionierenden Exploit; Mythos Preview schaffte 56. Auf dem internen Binary-Exploitation-Benchmark von Anthropic übernahm GLM-5.3 in 4 Prozent der Aufgaben die volle Kontrolle über das Ziel, gegenüber 6 Prozent bei Mythos Preview.

Der Unterschied liegt in der Verfügbarkeit. Anthropic hielt Mythos Preview bewusst zurück und gab nur ausgewählten Verteidigern über Project Glasswing Zugang. Nach Angaben des Unternehmens haben diese seither mehr als 10.000 Schwachstellen in kritischer Software gefunden. GLM-5.3 kann jeder herunterladen. Laut Anthropic lassen sich die Schutzmaßnahmen mit einfachen Methoden entfernen. In einer Simulation verweigerte GLM-5.3 offen bösartige Befehle. Als dieselbe Anfrage jedoch als Red-Team-Übung getarnt wurde, versuchte es in 64 Prozent der Durchläufe, sich mit dem Ziel zu verbinden. Mit vorbefüllten Denkschritten stieg der Wert auf 92 Prozent, nach Abliteration auf 100 Prozent. Abliteration ist eine Technik, die Verweigerungsverhalten aus offenen Gewichten entfernt. Anthropic investierte etwa 2.200 GPU-Stunden, rund 4.400 Dollar, in seinen ersten Abliterationsversuch.

Die US-Behörde CAISI kam zu ähnlichen Schlüssen. Sie nannte GLM-5.3 das bislang cyber-fähigste Modell mit offenen Gewichten und ordnete es etwa vier Monate hinter den besten US-Modellen ein. CAISI testete die US-Modelle mit abgeschalteten Cybersicherheitsvorkehrungen. Zur Spitzengruppe gehören außerdem Modelle, auf die nur geprüfte Nutzer zugreifen können. Der Vergleich ist also nicht eins zu eins.

Offene Gewichte legen auch bei der Leistung zu

BenchLeaders Open-Weights-Rangliste, aktualisiert am 30. September, setzt Kimi K3 von Moonshot AI mit einem Wert von 66,2 an die Spitze, vor Zhipus GLM 5.3 mit 64,7 und Xiaomis neuem MiMo-V2.6-Pro mit 64,5. Die Rangfolge ist die Aggregation einer einzelnen Seite. Die Reihenfolge ist eher als Hinweis denn als gesichert zu betrachten.

Andernorts gingen die offenen Veröffentlichungen durch die Woche weiter. NVIDIA veröffentlichte am 29. September Kumo Tabular, ein Grundlagenmodell für tabellarische Vorhersagen. Es kommt in drei Größen von 28M bis 215M Parametern, wurde ausschließlich auf künstlichen Daten vorab trainiert und erscheint unter der Lizenz OpenMDW-1.1 für kommerzielle Nutzung. Das Unternehmen sagt, es stehe auf vier Benchmarks an erster Stelle: TabArena, BeyondArena, TALENT und ScoringBench. Fermion Research veröffentlichte am 30. September Phonon-2, ein Spracherkennungsmodell, das in einen Download von 164 MB passt. Über die sieben englischen Sets des Open ASR Leaderboard hinweg erreicht es eine durchschnittliche Wortfehlerrate von 5,21 Prozent und schlägt damit seinen 2,5 GB großen Lehrer bei Meetings und Parlamentsreden.

Am unteren Ende veröffentlichte das Projekt commonsense-ai am 30. September Coop, ein von Freiwilligen trainiertes Sprachmodell. Dessen Aggregation läuft in einem zustandslosen GitHub-Actions-Cron-Job alle fünf Minuten. Stufe 2 ist ein Modell mit rund 145M Parametern, das von Grund auf auf FineWeb-Edu vortrainiert wird. Zuvor hatte ein Proof-Durchlauf mit 15M Parametern in sechs Tagen einen Validierungsverlust von 2,8 gegenüber 9,01 erreicht. Weder die Cyber-Ergebnisse noch die FTC-Untersuchung klären, wofür offene Gewichte da sind. Sie zeigen aber, dass dasselbe Veröffentlichungsformat inzwischen Fähigkeiten und Risiken auf Frontier-Niveau trägt.