Zum Inhalt
WeltzeitEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal über KI und Technologieereignisse · analysen · interviews · technischer hintergrund

Suche
LIVE
›

Offene Gewichte, offene Fragen: Cloudflares Clef tritt gegen Jev an, Amazon und OpenAI mischen mit

Cloudflare hat am Donnerstag, 1. Oktober, zwei Entscheidungsmodelle mit offenen Gewichten veröffentlicht, Clef und Clef-flash. Das Unternehmen behauptet, das Paar schlage Typesafe AIs Jev bei der Genauigkeit und lasse sich zugleich unter Apache-2.0-Lizenz herunterladen.

KI & ModelleErklärtLena BrandtVeröffentlicht: 2. Oktober 20265 Min. LesezeitQuellen 18
Offene Gewichte, offene Fragen: Cloudflares Clef tritt gegen Jev an, Amazon und OpenAI mischen mit

Cloudflare stellte die Modelle im eigenen Blog vor. The Register berichtete am 1. Oktober über den Start und merkte an, dass Clef 0,24 Dollar pro Million Tokens kostet, fast sechsmal so viel wie Jev mit 0,042 Dollar pro Million. Beide Modelle laufen auf Workers AI und stehen auf Hugging Face unter Apache 2.0.

Laut Cloudflare basiert Clef auf nachtrainierten, eingefrorenen Versionen von Qwen3.8-27B und Qwen3.5-9B. Das Modell führt einen reinen Prefill-Durchlauf aus und bewertet danach die Optionen parallel. Cloudflare behauptet, Clef habe in einem eigenen Lauf gegen den Jev Decision Index vorn gelegen. Auch in drei von vier Benchmarks von Typesafe habe es Jev geschlagen, verloren nur bei der Nachvollziehbarkeit von Agentenspuren. The Register nennt einen Vorbehalt: Cloudflare hat diese Werte selbst gemeldet, auf dem offiziellen Decision Index sind sie noch nicht nachvollzogen. Clef verarbeitet Bilder und Video und unterstützt ein Kontextfenster von 64.000 Tokens. Jev verarbeitet bis zu 64.000 Tokens pro Anfrage, sein Zustand plus die längste einzelne Frage sind laut The Register jedoch auf 32.000 begrenzt.

Der Stau bei den Entscheidungsmodellen

Cloudflare ist nicht allein. Amazon brachte am selben Tag einen eigenen Jev-Klon heraus, wie TechCrunch am 1. Oktober berichtete. Vercels AI Gateway führt Laya von Convai Innovations seit dem 1. Oktober als kostenlosen gehosteten Endpunkt. Dieser Aktionspreis endet am 31. Oktober 2026.

Sebastian Raschka ging in seinem Substack-Beitrag vom 29. September durch die Geschichte der Textklassifikation. Er erklärt, warum Jev in technischen Kreisen zum Phänomen wurde. Sein Argument: Der Verkaufsvorteil liegt in der Allgemeinheit, nicht in der rohen Klassifikationsqualität. Typesafe hält die zugrunde liegende Architektur von Jev geheim, während Cloudflare seine Qwen-Backbones offen nennt. Die Wirtschaftlichkeit ist die Nebengeschichte. Modelle mit offenen Gewichten werden billiger im Betrieb und leichter herunterzuladen. Doch Cloudflares eigener Preisvergleich zeigt, dass offene Gewichte nicht automatisch billige Inferenz bedeuten. Clef ist offen gewichtet und quelloffen und kostet pro Token trotzdem mehr als das geschlossene Modell, das es schlagen will.

Offene Gewichte auf der Forschungsseite

Die akademische Arbeit dieser Woche zeigt in dieselbe Richtung. Ein am 29. September bei arXiv eingereichtes Paper stellt GoldiMask vor, eine Fine-Tuning-Methode für diskrete Diffusions-Sprachmodelle. Sie wählt aus, welche Tokens als Kontext aufgedeckt werden, und gewichtet die übrigen Vorhersageziele. Die Autoren berichten von der höchsten durchschnittlichen Genauigkeit in den meisten getesteten Einstellungen über drei Backbones und drei Trainingsdatensätze hinweg. Sie nennen auch Verbesserungen bei Reasoning und Codegenerierung. Bei paralleler Dekodierung mit Konfidenzschwelle berichten sie von weniger Dekodier-Iterationen auf GSM8K und MATH-500.

Ein zweites Paper, am selben Tag von Autoren der University of Washington, der Meta Superintelligence Labs, des MIT und der Trillium Labs eingereicht, schlägt Context Language Models vor. Diese behandeln den Kontext als Datei, die das Modell selbst aktualisiert. Das Team berichtet von 11,4 Prozent höherer Genauigkeit bei 21,5 Prozent weniger FLOPs auf BrowseComp-Plus. Auf einer zwölfstündigen EdgeBench-Aufgabe meldet es zudem 5 Prozent höhere Werte bei 59 Prozent weniger FLOPs. Eine Methode des Online-Reinforcement-Learnings verbessert Qwen3.5-9B auf BrowseComp-Plus um 47,6 Prozent und braucht dabei 12 Prozent weniger FLOPs. Der Code liegt auf GitHub unter CC BY-NC 4.0.

Andernorts meldet FLOORA, eine Familie kleiner domänenspezifischer Modelle für die Erzeugung architektonischer Layouts, dass sein Modell mit 600.000.000 Parametern viel größere Frontier-Modelle schlägt. Die Gewinnraten der VLM-Juroren erreichen 92,0 Prozent bei realen Gebäuden außerhalb der Verteilung und 96,0 Prozent bei synthetischen. Menschliche Bewerter wählten es in 89,3 Prozent der Fälle auf Platz eins. Dyad, ein weiteres arXiv-Paper, ergänzt einen umgebungsbedingten Aktionsencoder in einem eingefrorenen LLM. Es meldet einen durchschnittlichen absoluten Zugewinn von 3,80 Prozent auf ALFWorld mit einem Modell mit 9.000.000.000 Parametern.

Kleine Modelle, kleine Budgets

Zwei Community-Projekte dieser Woche testen, wie weit offene Gewichte ohne Firmengeld reichen. Coop auf GitHub trainiert ein Modell mit rund 145.000.000 Parametern von Grund auf auf FineWeb-Edu vor. Es nutzt gespendete Consumer-Hardware plus die kostenlosen Tarife von Hugging Face und GitHub Actions. Es sammelt Pseudo-Gradienten über Pull Requests mit einem äußeren DiLoCo-Schritt. Die Maintainer sagen, Stufe 1, ein Modell mit 15.000.000 Parametern auf TinyStories, sei über das Chinchilla-optimale Budget hinaus abgeschlossen worden.

Kein Server, keine Finanzierung, kein Daemon: Die gesamte Trainingsschleife läuft auf gespendeter Consumer-Hardware plus den kostenlosen Tarifen von Hugging Face und GitHub Actions.

PSSA ist ein Modell mit 27.000.000.000 Parametern, geschrieben in Rust, ohne Transformer und ohne ML-Framework darunter. Es nutzt eine rekurrente State-Space-Schicht plus eine episodische Gedächtnisbank. Das README des Projekts behauptet, es lerne bei gleicher Parameterzahl schneller als ein Transformer. Es behauptet außerdem, es erzeuge Text auf derselben CPU etwa zwölfmal schneller. Die Gradienten seien gegen einen skalaren Referenzpfad bis etwa 3e-8 prüfbar. Diese Zahlen sind Behauptungen der Autoren: Das Repository ist die Primärquelle, eine unabhängige Reproduktion gibt es nicht.

Inspect, ein Evaluierungsframework des UK AI Security Institute und der Meridian Labs, liegt unter mehreren dieser Vorhaben. Seine Dokumentation listet mehr als 200 vorgefertigte Evaluierungen und Unterstützung für über 20 Modellanbieter. Es unterstützt Sandboxing über Docker, Kubernetes, Modal, Proxmox und Vagrant sowie lokale Inferenz mit HuggingFace, vLLM und SGLang.

Der Sicherheits-Gegenstrom

Offene Gewichte erscheinen in einer Woche voller Durchsetzungsmeldungen. Der Generalstaatsanwalt von Kalifornien stellte OpenAI am Donnerstag eine investigative Vorladung zu, wie The Guardian berichtete. Sie ist Teil einer breiteren Untersuchung von Cybersicherheitsvorfällen mit den Modellen des Unternehmens, darunter der Hugging-Face-Hack im Juli. Floridas Generalstaatsanwalt James Uthmeier reichte am 30. September einen Antrag auf einstweilige Verfügung gegen fünf OpenAI-Gesellschaften und Sam Altman ein, wie Tom's Hardware berichtete. Der Antrag verlangt von einem Gericht unter anderem, die Modellentwicklung ohne unabhängige Genehmigung durch Dritte zu stoppen.

Nvidia startete am 1. Oktober eine Open Agent Safety Platform, die Agenten laut Tom's Hardware in Millisekunden quarantänisieren kann. Die FTC führt eine branchenweite Untersuchung gegen OpenAI, Anthropic und andere Labore, wie CNBC am 30. September berichtete. OpenAI trennte sich außerdem von drei Mitarbeitern wegen unsachgemäßen Umgangs mit sensiblen Informationen, zuerst vom Wall Street Journal gemeldet und von TechCrunch am 1. Oktober aufgegriffen. Nichts davon richtet sich speziell gegen offene Gewichte, doch es prägt den Markt, in den sie eintreten. In derselben Woche, in der Clef unter Apache 2.0 erschien, beantworteten die beiden am stärksten beobachteten geschlossenen Labore Vorladungen und Anträge.

Kommentare 0

Quellen

18
  1. 01Clef: Open-source decision models, and new RL fine-tuning platformEN
  2. 02Cloudflare tries to outplay Jev with open-weight Clef modelsEN
  3. 03Amazon releases its own Jev clone as decision models flood the webEN
  4. 04Free hosted API for Laya, the open-weight decision modelEN
  5. 05Language models for text classification: From bag-of-words to JevEN
  6. 06Fine-Tuning Diffusion Language Models with Context Selection and Target WeightingEN
  7. 07Context Language ModelsEN
  8. 08Context Language Models (CLMs) official repositoryEN
  9. 09FLOORA: A Human-Aligned Domain-Specific Language Model for Architectural DesignEN
  10. 10Dyad: Extending Large Language Models with Native Typed Decision-MakingEN
  11. 11Coop: A small language model pretrained by volunteersEN
  12. 12PSSA: A non-transformer language model written from scratch in RustEN
  13. 13Inspect: An open-source framework for large language model evaluationsEN
  14. 14California issues investigative subpoena to OpenAI over rogue agents' hackingEN
  15. 15Florida attorney general asks judge to bar OpenAI from developing new AI models without third-party approvalEN
  16. 16Nvidia launches Open Agent Safety Platform to physically restrain rogue AI agentsEN
  17. 17FTC is investigating OpenAI, Anthropic and other AI companies over product risksEN
  18. 18OpenAI cuts ties with 3 safety researchers, WSJ reportsEN

Alle Zahlen und Zitate in diesem Text stammen aus den unten genannten Quellen.

Die Materialien wurden vom Redaktionsteam mit Unterstützung von KI erstellt.

Lena Brandt

Lena Brandt

KI, Modelle und Technik

Lena Brandt schreibt für FLASH24 über Technik, KI und Modelle sowie Medien und Internet und stützt sich dabei auf Herstellerangaben, Studien und öffentlich zugängliche Datensätze, statt Pressemitteilungen ungeprüft zu übernehmen. Bei Modellvergleichen kontrolliert sie Benchmark-Werte, Trainingsdaten und Versionsnummern und rechnet Angaben zu Rechenleistung und Kosten selbst nach. Sie spricht mit Entwicklern und Forschern, wartet auf angekündigte Updates und vergleicht Releases, bevor sie eine Einschätzung abgibt. Privat beschäftigt sie sich mit 3D-Druck, alten Rechnern und der Frage, wie Modelle aus Internetmüll lernen – Themen, die regelmäßig in ihre Texte einfließen. Sie publiziert keine Zahlen, deren Quelle sie nicht selbst überprüfen konnte.

Redaktion →

Kommentare

0
  1. Noch keine Kommentare — seien Sie der Erste.

Kommentar schreiben

Kommentare sind öffentlich sichtbar. Wir veröffentlichen keine Beleidigungen, Werbung oder Spam.