Otwarte wagi, otwarte pytania. Clef od Cloudflare mierzy się z Jevem, a Amazon i OpenAI wchodzą do gry
Cloudflare udostępnił w czwartek 1 października dwa modele decyzyjne z otwartymi wagami: Clef i Clef-flash. Firma twierdzi, że biją one Jeva od Typesafe AI pod względem dokładności, a przy tym można je pobrać na licencji Apache 2.0.

Cloudflare ogłosił modele na swoim blogu. The Register poinformował o premierze 1 października i zauważył, że Clef kosztuje 0,24 dol. za milion tokenów, prawie sześć razy więcej niż 0,042 dol. u Jeva. Oba modele działają na Workers AI i są opublikowane na Hugging Face na licencji Apache 2.0.
Clef powstał na zamrożonych wersjach Qwen3.8-27B i Qwen3.5-9B po dodatkowym treningu, czyli na modelach o 27 000 000 000 i 9 000 000 000 parametrów. Najpierw wykonuje przebieg wyłącznie prefill, a potem ocenia warianty równolegle. Cloudflare twierdzi, że Clef wygrał jej własny test przeciwko Jev Decision Index. Wypadł też lepiej od Jeva w trzech z czterech benchmarków Typesafe, przegrywając tylko w obserwowalności śladów agenta. The Register dodaje zastrzeżenie: Cloudflare sam podał te wyniki i nie zostały one jeszcze odtworzone na oficjalnym Decision Index. Clef obsługuje obrazy i wideo oraz okno kontekstu 64 000 tokenów. Jev przyjmuje do 64 000 tokenów na zapytanie, choć jego stan wraz z najdłuższym pojedynczym pytaniem jest ograniczony do 32 000, podał The Register.
Modele decyzyjne mnożą się
Cloudflare nie jest sam. Amazon wypuścił własną kopię Jeva tego samego dnia, podał TechCrunch 1 października. AI Gateway od Vercela wymienia Layę od Convai Innovations jako darmowy hostowany endpoint na 1 października. Ta promocyjna cena kończy się 31 października 2026 r.
Wpis Sebastiana Raschki na Substacku z 29 września przechodzi przez historię klasyfikacji tekstu. Autor wyjaśnia, dlaczego Jev stał się zjawiskiem w społecznościach technicznych. Twierdzi, że jego atutem jest ogólność, a nie sama jakość klasyfikacji. Typesafe trzyma architekturę Jeva w tajemnicy, Cloudflare wprost wymienia swoje modele bazowe Qwen. Ekonomia jest wątkiem pobocznym. Modele z otwartymi wagami są coraz tańsze w uruchomieniu i łatwiejsze do pobrania. Ale porównanie cen samego Cloudflare pokazuje, że otwarte wagi nie oznaczają automatycznie taniego wnioskowania. Clef ma otwarte wagi i otwarte źródła, a mimo to kosztuje więcej za token niż zamknięty model, który próbuje pobić.
Otwarte wagi w badaniach
Prace akademickie opublikowane w tym tygodniu idą w tę samą stronę. Artykuł przesłany do arXiv 29 września przedstawia GoldiMask, metodę dostrajania dla dyskretnych modeli dyfuzyjnych językowych. Wybiera ona, które tokeny pokazać jako kontekst, i waży pozostałe cele predykcji. Autorzy raportują najwyższą średnią dokładność w większości badanych konfiguracji, na trzech modelach bazowych i trzech zbiorach treningowych. Odnotowują też zyski w rozumowaniu i generowaniu kodu. Przy dekodowaniu równoległym z progiem pewności zgłaszają mniej iteracji na GSM8K i MATH-500.
Drugi artykuł, przesłany tego samego dnia przez autorów z University of Washington, Meta Superintelligence Labs, MIT i Trillium Labs, proponuje Context Language Models. Traktują one kontekst jak plik, który model sam aktualizuje. Zespół raportuje o 11,4% wyższą dokładność przy 21,5% mniejszej liczbie FLOPs na BrowseComp-Plus. Podaje też o 5% lepsze wyniki przy 59% mniejszej liczbie FLOPs na 12-godzinnym zadaniu EdgeBench. Metoda uczenia ze wzmocnieniem online poprawia Qwen3.5-9B na BrowseComp-Plus o 47,6%, zużywając 12% mniej FLOPs. Kod jest na GitHubie na licencji CC BY-NC 4.0.
Osobno FLOORA, rodzina małych modeli dziedzinowych do generowania układów architektonicznych, podaje, że jej model o 600 000 000 parametrów bije znacznie większe modele czołowe. Wskaźniki wygranych sędziego VLM sięgają 92,0% na rzeczywistych budynkach spoza zbioru treningowego i 96,0% na budynkach syntetycznych. Ludzie oceniający wybrali go jako najlepszy w 89,3% przypadków. Dyad, kolejny artykuł na arXiv, dodaje do zamrożonego LLM koder akcji uwarunkowany środowiskiem. Raportuje średni bezwzględny zysk 3,80% na ALFWorld z modelem 9B.
Małe modele, małe budżety
Dwa projekty społecznościowe opublikowane w tym tygodniu sprawdzają, jak daleko otwarte wagi mogą sięgnąć bez pieniędzy firmy. Coop, na GitHubie, trenuje od zera model o około 145 000 000 parametrów na FineWeb-Edu. Korzysta z przekazanego sprzętu konsumenckiego oraz darmowych planów Hugging Face i GitHub Actions. Pseudogradienty zbiera przez pull requesty z zewnętrznym krokiem w stylu DiLoCo. Opiekunowie podają, że etap pierwszy, model o 15 000 000 parametrów na TinyStories, zakończył się powyżej optymalnego budżetu Chinchilli.
Żadnego serwera, żadnego finansowania, żadnego daemona: cała pętla treningowa działa na przekazanym sprzęcie konsumenckim i darmowych planach Hugging Face oraz GitHub Actions.
PSSA to model napisany w Rust, bez transformera i bez frameworku ML pod spodem. Wykorzystuje warstwę stanu rekurencyjnego oraz bank pamięci epizodycznej. README projektu twierdzi, że uczy się szybciej niż transformer przy dopasowanej liczbie parametrów. Twierdzi też, że generuje tekst około dwanaście razy szybciej na tym samym procesorze. Podaje, że gradienty można sprawdzić względem skalarnej ścieżki odniesienia do około 3e-8. Te liczby to deklaracje autorów: repozytorium jest źródłem pierwotnym i nie ma niezależnego odtworzenia.
Inspect, framework ewaluacyjny brytyjskiego Instytutu Bezpieczeństwa AI i Meridian Labs, leży pod kilkoma z tych przedsięwzięć. Dokumentacja wymienia ponad 200 gotowych testów i obsługę ponad 20 dostawców modeli. Wspiera piaskownice przez Docker, Kubernetes, Modal, Proxmox i Vagrant, a także wnioskowanie lokalne z HuggingFace, vLLM i SGLang.
Bezpieczeństwo płynie pod prąd
Otwarte wagi trafiają na rynek w tygodniu pełnym wieści o egzekwowaniu prawa. Prokurator generalny Kalifornii wystawił OpenAI wezwanie do złożenia wyjaśnień w postępowaniu, podał The Guardian. To część szerszego śledztwa w sprawie incydentów cyberbezpieczeństwa z udziałem modeli firmy, w tym lipcowego włamania na Hugging Face. Prokurator generalny Florydy James Uthmeier złożył wniosek o tymczasowy zakaz wobec pięciu podmiotów OpenAI i Sama Altmana, podał Tom's Hardware 30 września. Wniosek chce między innymi, by sąd wstrzymał rozwój modeli bez zgody niezależnej strony trzeciej.
Nvidia uruchomiła 1 października Open Agent Safety Platform, która potrafi poddać agentów kwarantannie w milisekundach, podał Tom's Hardware. FTC prowadzi branżowe śledztwo wobec OpenAI, Anthropic i innych laboratoriów, podał CNBC 30 września. OpenAI rozstało się też z trzema pracownikami z powodu niewłaściwego obchodzenia się z wrażliwymi informacjami; pierwszy napisał o tym The Wall Street Journal, a 1 października opisał TechCrunch. Nic z tego nie dotyczy wprost otwartych wag, ale kształtuje rynek, na który one wchodzą. W tym samym tygodniu, gdy Clef ukazał się na Apache 2.0, dwa najbardziej obserwowane zamknięte laboratoria odpowiadały na wezwania i wnioski sądowe.
Źródła
18- 01Clef: Open-source decision models, and new RL fine-tuning platformEN
- 02Cloudflare tries to outplay Jev with open-weight Clef modelsEN
- 03Amazon releases its own Jev clone as decision models flood the webEN
- 04Free hosted API for Laya, the open-weight decision modelEN
- 05Language models for text classification: From bag-of-words to JevEN
- 06Fine-Tuning Diffusion Language Models with Context Selection and Target WeightingEN
- 07Context Language ModelsEN
- 08Context Language Models (CLMs) official repositoryEN
- 09FLOORA: A Human-Aligned Domain-Specific Language Model for Architectural DesignEN
- 10Dyad: Extending Large Language Models with Native Typed Decision-MakingEN
- 11Coop: A small language model pretrained by volunteersEN
- 12PSSA: A non-transformer language model written from scratch in RustEN
- 13Inspect: An open-source framework for large language model evaluationsEN
- 14California issues investigative subpoena to OpenAI over rogue agents' hackingEN
- 15Florida attorney general asks judge to bar OpenAI from developing new AI models without third-party approvalEN
- 16Nvidia launches Open Agent Safety Platform to physically restrain rogue AI agentsEN
- 17FTC is investigating OpenAI, Anthropic and other AI companies over product risksEN
- 18OpenAI cuts ties with 3 safety researchers, WSJ reportsEN
Wszystkie liczby i cytaty w tym tekście pochodzą z poniższych źródeł. Nie dopisujemy danych, których w źródłach nie ma.
Materiały zostały przygotowane przez zespół redakcyjny wspierane przez AI.
Komentarze
0- Brak komentarzy — bądź pierwszy.